Kamilė Lukauskytė
Pasaulyje sparčiai tobulėjant dirbtiniam intelektui, vis daugiau klausimų kyla ne tik apie naujas technologijų galimybes, bet ir apie tai, kas nutiks žmogui. Istorikas ir bestselerių „Sapiens“, „Homo Deus“ bei „Nexus“ autorius Yuvalis Noah Harari perspėja: didžiausia AI grėsmė gali būti ne robotai, užimantys žmonių darbo vietas, o tai, kad technologijos ims daryti įtaką tam, kuo žmonės tiki, kuo pasitiki ir kaip priima sprendimus.
Harari: žmonija susiduria su visiškai nauju iššūkiu
Y. N. Hararis jau ne vienerius metus kalba apie dirbtinio intelekto keliamas grėsmes. Tačiau naujausiuose pasisakymuose jis vis daugiau dėmesio skiria ne fantastiniams scenarijams, o procesams, kurie jau vyksta.
Pasak istoriko, AI nėra tik dar vienas įrankis, panašus į ankstesnes technologines naujoves. Šios sistemos gali savarankiškai generuoti informaciją, kurti tekstus, vaizdus ir vaizdo įrašus, priimti sprendimus bei daryti įtaką žmonių elgesiui.
Būtent todėl, Harario manymu, visuomenei būtina iš naujo apgalvoti, kaip atrodys žmogaus ir mašinos santykis.
Jo teigimu, pavojingiausia būtų manyti, kad AI visuomet liks paprastu įrankiu žmogaus rankose.
Didžiausias taikinys – žmonių pasitikėjimas
Vieną pagrindinių savo perspėjimų Hararis sieja su pasitikėjimu.
Jo manymu, pasitikėjimas yra vienas svarbiausių dalykų, leidžiančių veikti šiuolaikinei visuomenei. Žmonės pasitiki vieni kitais, institucijomis, žiniasklaida, finansų sistema ir įvairiomis organizacijomis.
Tačiau dirbtinis intelektas gali iš esmės pakeisti šią sistemą.
AI jau gali sukurti įtikinamą tekstą, nuotrauką ar vaizdo įrašą, kuriame žmogus tariamai sako tai, ko niekada nėra sakęs. Tobulėjant technologijoms, atskirti tikrą žmogaus sukurtą turinį nuo dirbtinai sugeneruoto tampa vis sunkiau.
Hararis yra pasakojęs, kad pats susidūrė su itin įtikinamai suklastotu vaizdo įrašu, kuriame atrodė, jog jis pats skaito paskaitą. Prireikė laiko suprasti, kad įrašas buvo netikras.
AI gali ne tik apgauti, bet ir įtikinti
Čia, pasak Harario, slypi dar gilesnė problema.
Anksčiau technologijos daugiausia padėdavo žmogui perduoti informaciją. Dabar AI gali pats dalyvauti informacijos kūrimo ir platinimo procese.
Dar daugiau – dirbtinis intelektas gali būti pritaikytas individualiai.
Sistema gali žinoti, kas žmogų domina, kokios temos jį piktina, kas kelia baimę, kokios žinutės jį nuramina ir kokie argumentai jį įtikina.
Tokiu būdu galima sukurti itin asmenišką bendravimą.
Hararis šį reiškinį apibūdina kaip savotišką „intymumo masinę gamybą“ – milijonai žmonių gali vienu metu bendrauti su dirbtinio intelekto sistemomis, kurios kiekvienam pritaiko savo elgesį.
Žmonės gali pradėti pasitikėti mašinomis labiau nei vieni kitais
Tai gali turėti rimtų pasekmių ne tik asmeniniam gyvenimui.
Jeigu žmogus pradeda labiau pasitikėti AI sugeneruotu atsakymu nei savo artimu žmogumi, ekspertu ar institucija, keičiasi pats sprendimų priėmimo mechanizmas.
Dar sudėtingesnė situacija gali susidaryti politikoje.
Įsivaizduokime sistemą, kuri gali vienu metu sukurti milijonus individualiai pritaikytų žinučių ir jas išplatinti skirtingiems žmonėms. Vienam rinkėjui ji gali pateikti ekonominius argumentus, kitam – informaciją apie migraciją, trečiam – saugumo klausimus.
Visi šie žmonės gali gauti skirtingą realybės versiją.
Todėl Hararis ragina ne tik kurti vis galingesnius AI modelius, bet ir galvoti apie taisykles, kurios apsaugotų visuomenę nuo manipuliavimo.
Jis siūlo aiškiai atskirti žmogų nuo dirbtinio intelekto
Vienas iš Harario siūlymų – neleisti dirbtiniam intelektui apsimesti žmogumi.
Jo manymu, vartotojas turi turėti galimybę aiškiai suprasti, ar informaciją pateikia žmogus, ar algoritmas.
Tai ypač svarbu socialiniuose tinkluose, kuriuose jau dabar plinta netikros paskyros, automatiškai kuriamas turinys ir manipuliatyvios žinutės.
Jeigu nebežinome, kas iš tiesų yra kitoje ekrano pusėje, ilgainiui gali pradėti nykti pasitikėjimas pačiu informaciniu pasauliu.
O kai visuomenė nebesugeba susitarti dėl to, kas yra tikra, demokratijai kyla rimta problema.
Hararis neatmeta ir dar baisesnio scenarijaus
Istorikas įspėja, kad ateityje dirbtinis intelektas gali tapti gerokai protingesnis už žmogų.
Nors tokios prognozės nėra tiksliai nuspėjamos, Hararis mano, kad dabartinė technologijų vystymosi kryptis leidžia rimtai svarstyti scenarijų, kuriame AI pranoks žmones daugelyje intelektinių užduočių.
Tačiau jis pabrėžia vieną svarbią detalę: tai nėra neišvengiama ateitis.
Jo teigimu, žmonija dar gali pasirinkti, kaip reguliuoti technologijų vystymąsi, kokias ribas nustatyti ir kiek sprendimų perduoti mašinoms.
„Mes esame ant savęs sunaikinimo ribos“
Naujausiuose interviu Hararis problemą apibūdina dar plačiau.
Jo manymu, žmonija turi precedento neturinčią galią, tačiau tai nereiškia, kad ji išmoko ta galia tinkamai naudotis. Žmonės sukūrė technologijas, galinčias pakeisti visą planetą, tačiau vis dar dažnai nesugeba susitarti dėl elementariausių bendrų taisyklių.
Būtent todėl AI revoliucija jam kelia nerimą.
Jeigu žmonės nesugebės bendradarbiauti ir kontroliuoti technologijų vystymosi, sprendimai, kurie šiandien atrodo kaip patogios naujovės, ateityje gali tapti labai sunkiai kontroliuojamomis sistemomis.
Technologijų stabdyti jis nesiūlo
Harario perspėjimai nereiškia, kad jis ragina atsisakyti dirbtinio intelekto.
Priešingai, jis pripažįsta, kad AI gali suteikti žmonijai milžiniškų galimybių – nuo medicinos ir mokslo iki naujų ekonomikos bei kūrybos formų.
Problema, jo manymu, yra ne pati technologija, o per didelis pasitikėjimas ja be pakankamos kontrolės.
Todėl būtina kurti taisykles dar prieš tai, kai technologijos taps tokios galingos, kad jų suvaldymas bus gerokai sudėtingesnis.
Harario perspėjimas iš esmės paprastas: žmonija neturėtų skubėti perduoti mašinoms vis daugiau sprendimų vien todėl, kad jos gali juos priimti greičiau.
Nes klausimas ateityje gali būti ne tai, ką AI sugeba padaryti, o tai, ar žmonės dar patys spręs, ką jam leidžiama daryti.
