Kamilė Lukauskytė
Dirbtinis intelektas vis dažniau tampa ne tik kasdieniu pagalbininku, bet ir įrankiu, naudojamu karinėse bei žvalgybos operacijose. Naujausi atvejai rodo, kad DI gali būti pasitelkiamas sekimui, propagandai, kibernetinėms atakoms ir net konvencinių ginklų kūrimo užduotims. Tai paskatino vienos didžiausių DI bendrovių vadovą paraginti konkurentus pristabdyti lenktynes dėl vis galingesnių modelių.
Nuo pokalbių roboto – iki karinių užduočių
DI pokalbių programėlės daugeliui žmonių tapo įrankiu, padedančiu parašyti tekstą, išversti sakinį ar surasti informacijos. Tačiau technologijos galimybės sparčiai plečiasi.
„Anthropic“, sukūrusi DI modelį „Claude“, neseniai paskelbė tyrimą, kuriame aprašė atvejus, kai jos sistema buvo naudojama įvairioms karinėms ir žvalgybinėms užduotims.
Bendrovės atlikti bandymai parodė, kad šiuolaikiniai modeliai kai kuriose srityse gali padėti atlikti užduotis, kurioms anksčiau reikėdavo specialiai apmokytų žmonių. Tarp jų – fragmentiškos informacijos analizė siekiant nustatyti žmonių buvimo vietą ar pagalba kuriant sistemas, skirtas bepiločiams aparatams nutaikyti į judančius objektus.
Tai nereiškia, kad DI pats savarankiškai pradėjo vykdyti karines operacijas. Dažniausiai kalbama apie žmonių naudojamas sistemas, kurioms DI suteikia papildomų analizės, planavimo ar automatizavimo galimybių.
„Claude“ atsidūrė ir ginklų kūrimo istorijoje
Vienas labiausiai dėmesį patraukusių atvejų susijęs su Jemeno husių naudojimu DI.
„Anthropic“ teigia nustačiusi, kad su „Claude“ buvo ieškoma informacijos, susijusios su raketų kūrimu. Bendrovė taip pat aprašė kitus atvejus, kai jos modelis buvo pasitelktas karinei žvalgybai, sekimui, propagandai ir kibernetinėms operacijoms.
Svarbu pabrėžti, kad tai yra pačios „Anthropic“ atlikto tyrimo ir grėsmių žvalgybos ataskaitos išvados. Bendrovė teigia, kad kiekvieną ataskaitoje identifikuotą operaciją bandė sustabdyti.
Tačiau pats faktas, kad tokie bandymai vyksta, rodo platesnę problemą: net ir sukūrus saugiklius, žmonės gali mėginti juos apeiti arba informaciją gauti išskaidydami užklausas į daugybę skirtingų pokalbių.
Pavojus – ne tik ginklai
DI naudojimo rizika nėra susijusi vien su raketomis ar bepiločiais.
„Anthropic“ nurodė atvejus, kai DI buvo naudojamas sekant žmones, renkant informaciją apie disidentus, kuriant propagandinį turinį ir vykdant kibernetines operacijas. Bendrovės tyrėjai taip pat analizavo bandymus panaudoti modelius biologinių ginklų kūrimo srityje.
Tai ypač svarbu todėl, kad DI gali labai greitai apdoroti didžiulius informacijos kiekius. Tokios sistemos gali automatizuoti procesus, kuriems anksčiau reikėjo didelių specialistų komandų.
Kitaip tariant, problema gali būti ne tai, kad DI staiga tampa „ginklu“, o tai, kad žmonės gauna daug galingesnį įrankį jau egzistuojantiems veiksmams atlikti greičiau ir didesniu mastu.
„Turime sulėtinti tempą“
Būtent dėl šios priežasties „Anthropic“ vadovas Dario Amodei paragino technologijų bendroves pristabdyti pažangiausių DI modelių kūrimo tempą.
Jis nesiūlo sustabdyti technologijų plėtros. Jo siūlymas – suteikti daugiau laiko saugumo sistemoms, nepriklausomam vertinimui ir bendroms taisyklėms sukurti. Amodei pasiūlė nepriklausomų vertintojų įtraukimą į DI laboratorijų veiklą, bendrus saugumo standartus ir tarptautinį bendradarbiavimą.
Šiai minčiai viešai pritarė ir kitų didžiųjų DI bendrovių vadovai, tarp jų „OpenAI“ vadovas Samas Altmanas bei Elonas Muskas.
Tačiau čia iškyla kita problema – pasaulinė konkurencija.
Kinija ir JAV nenori atsilikti
DI tapo ne tik technologijų, bet ir nacionalinio saugumo klausimu. JAV ir Kinija varžosi dėl pažangiausių modelių, skaičiavimo infrastruktūros ir talentų.
Todėl raginimas „sulėtinti“ technologijų lenktynes susiduria su paprastu klausimu: kas nutiks, jeigu viena šalis pristabdys, o kita – ne?
Kinijos valdžios atstovai pastaruoju metu atmetė dalį JAV sklindančių perspėjimų dėl DI grėsmių, teigdami, kad konfrontacija ir piktybinė konkurencija nepadėtų sukurti veiksmingo pasaulinio DI valdymo.
Tuo pat metu žmogaus teisių organizacijos įspėja, kad kariuomenės DI sistemas diegia sparčiau, nei spėjama nepriklausomai patikrinti jų veikimą.
„Human Rights Watch“ pažymi, kad DI naudojamas sprendimams, susijusiems su taikinių nustatymu, karinių veiksmų planavimu ir didelių informacijos srautų analize. Organizacija perspėja, kad technologijos diegimas nepakankamai išbandžius jos veikimą gali apsunkinti atsakomybę už klaidas ir civilių apsaugą.
Ar jau pasiektas pavojingas taškas?
Kol kas nėra pagrindo teigti, kad DI perėmė ginklų sistemų kontrolę ar savarankiškai pradėjo spręsti, ką pulti. Tačiau naujausi pavyzdžiai rodo kitą tendenciją – žmonės vis dažniau suteikia DI vaidmenį procesuose, kurie anksčiau buvo laikomi išskirtinai žmogaus kompetencijos sritimi.
Ir būtent tai kelia didžiausią klausimą.
Jeigu technologijos gebėjimai augs greičiau nei saugumo taisyklės, priežiūros mechanizmai ir tarptautiniai susitarimai, ateityje gali būti vis sunkiau kontroliuoti, kaip galingiausios DI sistemos naudojamos karinėje, žvalgybos ar politinėje veikloje.
Todėl raginimas sulėtinti tempą nėra vien diskusija apie technologijų kompanijų pelną. Tai tampa klausimu, kiek greitai žmonija nori suteikti DI galimybę veikti srityse, kuriose viena klaida gali turėti labai realių pasekmių.
