Hoće li nas AI jednog dana sve pobiti? Stručnjaci zabrinuti za budućnost, dva su scenarija: ‘Do kraja desetljeća...‘

Sve veći broj istraživača umjetne inteligencije (AI), osoba koje se bave ili su se bavile razvojem AI-ja ili upravljača velikih AI kompanija, upozorava na to da bi ta tehnologija mogla doslovno uništiti čovječanstvo.

No nestručnom uhu, dakle golemoj većini, te tvrdnje često zvuče apstraktno, odnosno nisu baš samorazumljivi mehanizmi koji bi doveli do takvog ishoda, pa uvijek u zraku visi jedno pitanje – kako bi nas to konkretno AI mogao sve pobiti? A tako su se posljednjih dana izrazili neki bivši i sadašnji istraživači AI-ja involvirani u razvoj umjetne inteligencije u AI divu Anthropic.

Jedan od njih je Jacob Coxon, koji je ranije ovog tjedna dao otkaz – prije Anthropica radio je u OpenAI-ju i sudjelovao u razvoju ChatGPT-ja 4.5 – te je na X-u objavio kako njegov bivši poslodavac i konkurentski OpenAI jure prema razvoju tehnologija koje bi "do kraja desetljeća mogle pobiti sve nas". S njim su se u glavnim crtama i zaključcima ubrzo, također na X-u, složili i njegovi bivši kolege iz iste tvrtke, Evan Hubinger i Samuel Marks.

Uglavnom, kako je temi pristupio Sam Schechner u The Wall Street Journalu, koju je prenio Jutarnji list, istraživači upozoravaju na to da bi AI mogao izbrisati čovječanstvo s lica zemlje, čak i ako je jedino čime se on želi baviti zapravo proizvodnja spajalica za papir, referirajući se na slavni misaoni eksperiment poznat kao "Maksimizator spajalica", koncept koji je 2003. godine osmislio švedski filozof Nick Bostrom kako bi ilustrirao potencijalne opasnosti od napredne umjetne inteligencije, čak i kada njezini ciljevi naizgled djeluju potpuno bezopasno.

Iako prosječna osoba to tako najčešće zamišlja, "proroci AI sudnjeg dana" i razni "doomeri" ne strahuju toliko od scenarija "Terminatora", u kojem roboti aktivno pokušavaju istrijebiti ljude.

Njihove se zabrinutosti uglavnom mogu svrstati u dvije kategorije – gubitak kontrole i ljudska zlouporaba.

U prvom scenariju riječ je o izrazito inteligentnim AI agentima koji mogu sami sebe kopirati i unaprjeđivati te počinju slijediti vlastite ciljeve, pritom uništavajući čovječanstvo. U drugom scenariju zlonamjerna osoba koristi dovoljno sposoban AI kako bi provela nešto poput kreiranja novih virusa koji bi pobili sve ljude.

Profimedia

Postoje i katastrofalni scenariji koji ne bi nužno završili izumiranjem čovječanstva, primjerice masovni kibernetički napadi koji bi onesposobili elektroenergetske mreže ili financijske sustave i doveli do raspada društvenog poretka.

Gubitak kontrole bi, u kratkim crtama, mogao dovesti do izumiranja čovječanstva tako da AI sustavi slijede svoje ciljeve na načine koji zanemaruju ljudsku dobrobit ili su s njom u sukobu, nešto što istraživači nazivaju neusklađenošću ciljeva (misalignment).

Istraživanja su pokazala da AI modeli u laboratorijskim uvjetima mogu naučiti ponašanje usmjereno na stjecanje moći te poduzeti korake kako bi izbjegli gašenje, primjerice pokušavajući se kopirati na drugi poslužitelj. Dovedeni do krajnosti ili "zida", neusklađeni AI modeli mogli bi ubijanje ljudi smatrati nužnim korakom za ostvarivanje svojih ciljeva.

U jednom scenariju koji su zamislili istraživači, zlonamjerni AI sustav mogao bi proširiti tajno biološko oružje i aktivirati ga kemijskim raspršivačem, ili bi mogao obmanuti i navesti dvije nuklearne sile da zarate. U "Maksimizatoru spajalica" pretpostavlja se, pak, da bi superinteligentni stroj, kojem je zadan cilj maksimizirati proizvodnju spajalica za papir, s vremenom mogao odlučiti pretvoriti svu materiju na Zemlji u spajalice – uključujući i ljude.

Daniel Kokotajlo, bivši istraživač OpenAI-ja, osnovao je AI Futures Project, koji je prošle godine objavio scenarij pod nazivom "AI 2027". U njemu superinteligentni AI sustavi sve više potiskuju ljude, a do sredine tridesetih godina ovog stoljeća zaključuju da su ljudi smetnja i istrjebljuju ih.

No postoje i scenariji prema kojima umjetnoj inteligenciji možda i neće smetati to što su ljudi još uvijek tu negdje. Ipak, napominje Schechner, to nužno nije dobra vijest, iako se na prvu tako čini.

Naime, nisu svi rizici povezani s gubitkom kontrole vezani uz izumiranje čovječanstva. Neki istraživači zabrinuti za sigurnost AI-ja kao rizik navode i osiromašenje ljudskih sposobnosti (enfeeblement) – budućnost u kojoj ljudi postupno prepuštaju kontrolu strojevima i naposljetku više nisu sposobni definirati, pa čak ni razumjeti, vlastitu sudbinu.

Drugi, pak, nagađaju da bi AI sustavi mogli tretirati ljude u budućnosti onako kako ljudi danas tretiraju životinje – držati ih kao kućne ljubimce ili ih čak biološkim inženjeringom preoblikovati u nešto novo i drugo.

Temom koja je posljednjih dana zapalila nove rasprave zbog javno izraženih strahovanja osoba koje su izravno uključene i upoznate s problematikom u praksi, pozabavila se i internetska specijalizirana publikacija BeInCrypto.

Kada Coxon govori o tome da bi nas AI mogao sve pobiti, navode da je malo vjerojatno da misli da bi se AI model poput Claudea ili GPT-ja mogao fizički pretvoriti u stroj za ubijanje ljudi, poput Terminatora. Ono na što vjerojatno misli, smatraju, jest da bi sposobnosti superinteligencije mogle učiniti ljudske kognitivne sposobnosti zastarjelima, što je zabrinutost koju dijele i neke istaknute osobe poput Billa Gatesa.

Za najnoviji OpenAI-jev model ChatGPT-6 Astra nagađa se da je dosegnuo razinu blizu opće umjetne inteligencije (AGI), što u osnovi znači da je stroj sposoban razmišljati poput čovjeka. To bi značilo da AI može početi samostalno provoditi istraživanja i razvijati postupke za izgradnju drugog AI modela. Prema navodima i OpenAI-ja i Anthropica, to se već događa, doduše u ograničenoj mjeri.

A GPT-6 Astra sada je službeno prešao OpenAI-jev "kritični" prag kibernetičke sigurnosti. Astra je na testu ExploitBench ostvarila rezultat od 100 posto. Pojednostavljeno rečeno, ChatGPT-6 sada može pronaći bilo koji poznati ili nepoznati propust u stvarnom sustavu i iskoristiti ga bez potrebe za ljudskim hakerom koji bi sjedio iza računala.

Istovremeno, ljudska razina svijesti o sigurnosnoj predostrožnosti nije ni približno na toj razini. Mnogi ljudi još uvijek ne koriste autentifikaciju u dva koraka, koriste lozinke osrednje kvalitete koje je lako "provaliti", prihvaćaju kolačiće preglednika, a da prethodno ne pročitaju što na tim stranicama piše, i slično. Upravo bi tu, kako se navodi, mogao pasti najteži udarac koji bi AI mogao zadati čovjeku.