Kamilė Lukauskytė
Dirbtinis intelektas jau seniai nebėra vien įrankis tekstams rašyti ar nuotraukoms kurti. JAV kariuomenėje jis vis plačiau naudojamas žvalgybai, duomenų analizei ir sprendimų priėmimui. Tačiau naujausias incidentas parodė, kiek pavojinga gali būti situacija, kai algoritmas suklysta, o jo išvada pateikiama kaip patikima žvalgybinė informacija.
Pasak CNN šaltinių, šių metų pavasarį, vykstant JAV ir Irano karui, DI sugeneruota klaidinga informacija apie Kinijos laivą Artimuosiuose Rytuose beveik paskatino JAV kariuomenę pradėti operaciją prieš jį. Tuo metu kariniai lėktuvai jau buvo ore, o ginkluoti kariai ruošėsi galimam laivo šturmui.
Viskas prasidėjo nuo vieno žvalgybos vertinimo
CNN skelbia, kad JAV Specialiųjų operacijų vadovybės analitikas tyrė Kinijos laivo krovinio manifestą. Analizei buvo pasitelktas pokalbių robotas, o jo išvada buvo perduota į įprastą žvalgybinę ataskaitą.
Problema buvo ta, kad DI neteisingai identifikavo laivo krovinį.
Sistema pateikė išvadą, jog Kinijos laivas Artimuosiuose Rytuose gabena komponentus, susijusius su branduolinių ginklų programa. Tokia informacija JAV kariuomenėje natūraliai sukėlė itin rimtą reakciją.
CNN šaltiniai teigia, kad informacija buvo paskleista kariniais kanalais ir į ją pradėta žiūrėti kaip į realų žvalgybinį perspėjimą.
Lėktuvai jau buvo ore
Situacija tapo ypač rimta tada, kai kariuomenė pradėjo ruoštis galimai operacijai prieš laivą.
CNN nurodo, kad du šaltiniai teigė, jog ginkluoti JAV kariai jau ruošėsi įsilaipinti į laivą, o kariniai orlaiviai buvo pakelti į orą. Operacija buvo taip arti pradžios, kad klaida galėjo turėti visiškai realių pasekmių.
Tačiau paskutinę akimirką labiau patyrę analitikai nusprendė dar kartą patikrinti pirminę informaciją.
Ir tada paaiškėjo, kad kažkas labai negerai.
Žvalgybinėje ataskaitoje buvo panaudota DI sugeneruota informacija, o pokalbių robotas buvo klaidingai nustatęs, ką iš tikrųjų gabena laivas. Operacija buvo sustabdyta.
„Branduolinis krovinys“ egzistavo tik roboto išvadoje
Kol kas nėra viešai žinoma, kokį konkretų krovinį DI supainiojo su branduolinės programos komponentais.
Taip pat neaišku, kokia konkreti DI sistema buvo naudojama. CNN šaltiniai negalėjo nustatyti, ar analitikas naudojosi komerciniu pokalbių robotu, ar uždaru JAV vyriausybei skirtu įrankiu.
Tai svarbi detalė, nes viešai prieinama informacija kol kas neleidžia teigti, kad incidentą sukėlė konkreti komercinė DI platforma.
Tačiau pats principas kelia klausimų: sistema pateikė klaidingą informaciją, žmogus ja pasikliovė, o ši informacija vėliau buvo įvilkta į oficialios žvalgybinės ataskaitos formą.
Būtent pastaroji dalis ir yra viena pavojingiausių.
Pavojinga ne vien „haliucinacija“
DI modelių vadinamosios „haliucinacijos“ reiškia situacijas, kai sistema pateikia išgalvotą ar klaidingą informaciją taip, tarsi ji būtų faktas.
Įprastame pokalbyje tokia klaida gali reikšti neteisingą atsakymą. Žvalgyboje pasekmės gali būti visiškai kitokios.
CNN reportaže pabrėžiama, kad šiuo atveju problema buvo ne vien pats algoritmo suklydimas. DI sugeneruota išvada pateko į įprastą žvalgybos informacijos rengimo procesą ir tapo dokumentu, kuriuo galėjo remtis aukštesnio lygio sprendimų priėmėjai.
Tai iš esmės pakeičia rizikos mastą.
Klaidingas atsakymas pokalbių lange yra viena. Klaidingas atsakymas, virtęs karine žvalgybine ataskaita, – visai kas kita.
Žmogus šįkart sustabdė mašiną
Šioje istorijoje yra ir kita svarbi detalė.
Galutinę katastrofišką klaidą sustabdė ne kitas algoritmas, o žmonės. Patyrę analitikai, peržiūrėję pirminę informaciją, pastebėjo neatitikimus ir nustatė, kad DI išvada apie krovinį buvo klaidinga.
Tai reiškia, kad žmogaus kontrolė šioje grandinėje suveikė.
Tačiau kartu iškyla klausimas, kiek tokių patikrinimų reikėtų atlikti, jei DI bus naudojamas vis daugiau žvalgybos procesų ir sprendimų priėmimo etapų.
CNN žurnalistai taip pat nurodė, kad šis atvejis, jų šaltinių teigimu, nėra visiškai izoliuotas – Pentagono naudojamose DI sistemose jau buvo pastebėta kitų klaidų.
JAV kariuomenė DI nori naudoti vis plačiau
Incidentas įvyko tuo metu, kai JAV gynybos struktūros aktyviai plečia dirbtinio intelekto naudojimą.
CNN pranešė, kad gynybos sekretorius Pete’as Hegsethas yra raginęs kariuomenę eksperimentuoti su DI ir naudoti jį įvairiose srityse – nuo kovinių operacijų bei taikinių analizės iki administracinių užduočių.
Tam yra racionalių priežasčių: kariuomenė susiduria su milžiniškais informacijos kiekiais, o DI gali juos apdoroti gerokai greičiau nei žmogus.
Tačiau greitis turi savo kainą.
Jeigu klaidinga informacija taip pat apdorojama greičiau ir patenka į sprendimų grandinę, žmogus gali tiesiog nebespėti jos tinkamai patikrinti.
Didžiausia pamoka – nepasitikėti „užtikrintai“ skambančia mašina
Šis incidentas dar nereiškia, kad DI negali būti naudojamas kariuomenėje. Priešingai, JAV ir kitos valstybės toliau investuoja į tokias technologijas.
Tačiau istorija parodė kitą problemą: dirbtinis intelektas gali labai įtikinamai pateikti informaciją, kuri yra klaidinga.
Šįkart klaida buvo aptikta paskutinę minutę ir operacija neįvyko. Nebuvo JAV ir Kinijos karinio susidūrimo. CNN taip pat pabrėžia, kad galiausiai neįvyko jokia tiesioginė eskalacija.
Tačiau pats scenarijus jau tapo įspėjimu.
Jeigu klaidinga DI išvada apie paprastą dokumentą gali pasiekti tokį lygį, kad kariniai lėktuvai pakyla į orą, klausimas tampa nebe apie tai, ar dirbtinis intelektas kada nors suklys.
Jis jau suklydo.
Tik šįkart žmogus spėjo tai pastebėti prieš paspausdamas paskutinį mygtuką.
