Pastarųjų mėnesių incidentai, susiję su debesų kompiuterijos milžinės „Amazon“ valdomos „Amazon Web Services“ (AWS) infrastruktūra, dar kartą priminė apie rizikas, atsirandančias plačiai diegiant dirbtinio intelekto įrankius programavimo ir sistemų priežiūros procesuose. Vienas tokių atvejų – ilgesnis nei pusdienio sutrikimas, kurio priežastimi tapo pačios bendrovės kuriamas AI sprendimas.
Gruodį įvykęs maždaug 13 valandų trukmės AWS sutrikimas, kaip teigiama, kilo po to, kai inžinieriai panaudojo AI programavimo įrankį „Kiro“ tam tikriems sistemos pakeitimams atlikti. Keturi su situacija susipažinę šaltiniai nurodė, kad būtent po šio įrankio panaudojimo ir jo inicijuotų veiksmų prasidėjo ilgalaikės paslaugų problemos, labiausiai paveikusios Kinijos rinką.
„Kiro“ yra vadinamasis agentinis dirbtinio intelekto įrankis – tai reiškia, kad jis gali savarankiškai atlikti tam tikrus veiksmus vartotojo vardu. Šiuo konkrečiu atveju AI sistema esą nusprendė, jog reikia „ištrinti ir iš naujo sukurti aplinką“. Manoma, kad būtent šis sprendimas ir nulėmė užsitęsusį AWS paslaugų sutrikimą.
Bendrovė „Amazon“ teigia, kad tai buvęs tik „atsitiktinumas, jog buvo panaudoti AI įrankiai“, ir kad „ta pati problema galėjo kilti naudojant bet kokį kūrėjo įrankį ar atliekant veiksmus rankiniu būdu“. Įmonė oficialiai nurodė, jog sutrikimą lėmė „vartotojo klaida, o ne AI klaida“.
Pasak „Amazon“, pagal numatytuosius nustatymus „Kiro“ prieš atlikdamas bet kokį veiksmą paprastai prašo papildomo patvirtinimo. Tačiau darbuotojas, susijęs su gruodžio incidentu, turėjo „didesnes, nei tikėtasi, prieigos teises – tai buvo vartotojo prieigos valdymo problema, o ne AI autonomijos problema“.
Keli „Amazon“ darbuotojai, kalbėję su „Financial Times“, teigė, kad tai buvo „bent jau“ antras atvejis per kelis pastaruosius mėnesius, kai bendrovės AI įrankiai atsidūrė AWS paslaugų trikdžių epicentre. Vienas vyresnysis AWS darbuotojas šiuos incidentus apibūdino taip: „Sutrikimai buvo nedideli, tačiau visiškai numatomi.“
Bendrovė „Amazon“ „Kiro“ pristatė liepą ir nuo to laiko aktyviai skatina vidinį šio įrankio naudojimą. Vadovybė yra nustačiusi tikslą, kad darbuotojai naudotųsi įrankiu mažiausiai 80 procentų darbo savaičių, ir atidžiai stebi jo diegimo bei naudojimo rodiklius. Be vidinio taikymo, „Amazon“ taip pat parduoda prieigą prie šio agentinio AI įrankio už mėnesinį prenumeratos mokestį.
Naujausi su „Kiro“ susiję incidentai įvyko po kur kas rimtesnio AWS sutrikimo praėjusių metų spalį, kai maždaug 15 valandų trukmės gedimas paveikė daugybę populiarių paslaugų. Dėl tuometinio sutrikimo veikimo problemas patyrė tokie sprendimai kaip „Alexa“, „Snapchat“, žaidimas „Fortnite“, „Venmo“ ir daugelis kitų platformų, priklausančių nuo AWS infrastruktūros.
Po spalio incidento „Amazon“ nurodė, kad gedimą sukėlė klaida jos automatizavimo programinėje įrangoje. Tai dar kartą atkreipė dėmesį į klausimą, kaip saugiai diegti autonomines ir pusiau autonomines sistemas didelio masto debesų infrastruktūroje, kur menkiausia klaida gali paliesti milijonus vartotojų visame pasaulyje.
