Kamilė Lukauskytė
Dirbtinis intelektas sparčiai įsitvirtina versle, viešajame sektoriuje ir kasdieniame gyvenime. Tačiau mokslininkai perspėja, kad didėjanti priklausomybė nuo DI gali sukurti naują problemą: net ir turint galimybę išjungti konkrečią sistemą, jos sustabdymas galėtų turėti didelių pasekmių.
Diskusijos apie galimą DI keliamą pavojų pastaruoju metu vėl suaktyvėjo. Vienas iš „Anthropic“ įkūrėjų yra pareiškęs, kad pažangioms DI sistemoms reikėtų turėti savotišką avarinio išjungimo mechanizmą. Tačiau ekspertai pabrėžia, kad vieno mygtuko, galinčio išjungti visą pasaulio DI, nėra.
Ar įmanoma DI tiesiog išjungti?
Toronto universiteto kompiuterinio saugumo ir DI specialistas Nicolas Papernot aiškina, kad kibernetinio saugumo požiūriu „avarinis išjungimas“ reiškia galimybę nutraukti konkretaus DI agento veiklą.
Jeigu organizacija visiškai kontroliuoja sistemą, tai galima padaryti, pavyzdžiui, atėmus prieigą prie duomenų apdorojimo išteklių.
Tačiau situacija tampa sudėtingesnė, kai DI programa gali veikti už pradinės aplinkos ribų.
Ekspertas pateikė hipotetinį scenarijų: jeigu DI būtų panaudotas savarankiškai besidauginančiam kenkėjiškam kodui platinti, neužtektų išjungti vieno kompiuterio. Reikėtų surasti ir sustabdyti visas tokio kodo kopijas skirtinguose įrenginiuose.
Vieno „išjungimo mygtuko“ nėra
Prancūzijos nacionalinio mokslinių tyrimų centro (CNRS) DI ekspertas Thierry Poibeau teigia, kad pati idėja apie vieną mygtuką, kuriuo būtų galima išjungti visą DI, yra klaidinanti.
Pasaulyje veikia daugybė skirtingų DI sistemų, kurias kuria ir valdo įvairios įmonės bei institucijos. Nėra vieno žmogaus ar organizacijos, kontroliuojančios visą dirbtinį intelektą.
Tačiau konkrečią DI sistemą galima sustabdyti, jeigu kontroliuojamos mašinos ir paslaugos, nuo kurių ji priklauso.
Kuo daugiau funkcijų perduosime DI, tuo sudėtingiau
Naujojo Pietų Velso universiteto Kanberoje profesorius Husseinas Abbassas DI sistemas suskirsto į skirtingus sudėtingumo lygius.
Centralizuotą sistemą, visiškai priklausančią nuo jos operatoriaus, teoriškai būtų įmanoma gana lengvai sustabdyti.
Daug sudėtingiau būtų tada, kai DI programoms suteikiama prieiga prie kitų programų, failų, įrenginių ar įvairių infrastruktūros sistemų.
Tokiu atveju DI tampa nebe atskiru įrankiu, o platesnės skaitmeninės sistemos dalimi.
Didžiausia problema – mūsų priklausomybė
N. Papernot atkreipia dėmesį į paradoksą: kuo daugiau DI naudojame kasdienėms užduotims automatizuoti, tuo sunkiau tampa jį išjungti nepakenkiant įprastam gyvenimui.
Jeigu DI būtų plačiai integruotas į įmonių, valstybinių institucijų ar sveikatos priežiūros sistemų darbą, jo sustabdymas galėtų reikšti ir teisėtų paslaugų sutrikimus.
Todėl problema gali būti ne vien tai, ar DI bandytų išvengti išjungimo. Ne mažiau svarbu, kiek žmonių ir organizacijų taptų priklausomi nuo jo veikimo.
Ekspertų nuomonės išsiskiria
Ne visi specialistai mano, kad DI reikėtų vertinti kaip egzistencinę grėsmę.
JAV prezidentas Donaldas Trumpas yra atmetęs perspėjimus apie DI keliamą egzistencinį pavojų. „Meta“ vadovas Markas Zuckerbergas taip pat yra pasisakęs prieš raginimus lėtinti DI plėtrą, argumentuodamas, kad rinkos paskatos ir teisinė atsakomybė gali būti svarbios apsaugos priemonės.
Sorbonos universiteto informatikos profesorius Jeanas-Gabrielis Ganascia savo ruožtu teigia, kad kalbos apie DI „savarankišką valią“ gali nukreipti dėmesį nuo konkretesnės problemos – žmonių priklausomybės nuo technologijos.
Ką tai reiškia ateičiai?
Ekspertų diskusija rodo, kad DI saugumo klausimas nėra vien apie hipotetinį scenarijų, kai dirbtinis intelektas pats nusprendžia priešintis žmonėms.
Kitas svarbus klausimas – kiek kritinių procesų ateityje bus patikėta DI sistemoms.
Kuo daugiau sprendimų, paslaugų ir infrastruktūros bus nuo jų priklausoma, tuo svarbesni taps atsarginiai veikimo būdai, žmogaus kontrolė ir galimybė prireikus saugiai sustabdyti konkrečias sistemas.
Taigi „avarinio išjungimo“ klausimas visų pirma tampa ne vien technologiniu, bet ir visuomenės pasirengimo klausimu.
