Jacob Coxon (27), britanski istraživač koji je posljednje tri godine radio na razvoju AI modela u OpenAI-ju i Anthropicu, dao je otkaz i javno upozorio da vodeći AI laboratoriji prebrzo jure prema samopoboljšavajućoj superinteligenciji. Njegovu objavu na X-u u samo nekoliko sati vidjelo je 126 milijuna ljudi.
„Nijedna kompanija ne ponaša se odgovorno. Jure prema superinteligenciji sposobnoj za samopoboljšavanje i kockaju se našim životima“, napisao je Coxon. Tvrdi da ljudi koji rade na najnaprednijim AI sustavima privatno ozbiljno razmatraju mogućnost da bi tehnologija mogla postati egzistencijalna prijetnja čovječanstvu, piše Jutarnji list.
Prema njegovim riječima, budući nadljudski sustavi mogli bi hakirati gotovo sve, brzo revolucionirati čitava područja i steći stvarnu moć i resurse. Smatra da bi AI do kraja desetljeća mogao predstavljati katastrofalan rizik, dok vodeći ljudi industrije u javnosti često ublažavaju svoje stavove.
Zašto onda nastavljaju razvijati AI?
Coxon objašnjava da je problem u svojevrsnoj utrci među vodećim kompanijama. U OpenAI-ju, tvrdi, mnogi zaposlenici nisu u potpunosti svjesni civilizacijskih posljedica razvoja AI-ja, dok su u Anthropicu rizici dobro poznati, ali kompanija vjeruje da ne može usporiti jer bi konkurencija nastavila razvijati tehnologiju. Tako nastaje situacija u kojoj svi razumiju opasnost, ali nitko ne želi prvi pritisnuti kočnicu.
Posebno ga zabrinjava trenutak kada AI postane bolji od ljudi u razvoju umjetne inteligencije. Tada bi mogao pomagati u stvaranju još sposobnijih verzija sebe, što bi moglo izazvati vrlo brz rast sposobnosti koji ljudi više ne bi mogli kontrolirati.
Problem pritom ne mora biti u tome da AI „mrzi“ ljude. Dovoljno je da ima ciljeve koji nisu potpuno usklađeni s ljudskim interesima i da postane dovoljno autonoman da ljude počne doživljavati kao prepreku ostvarenju tih ciljeva.
Rizik veći od 10 posto
U raspravu se uključio i Evan Hubinger, Anthropicov istraživač sigurnosti AI-ja, koji je rekao da osobno procjenjuje na više od 10 posto vjerojatnost da bi AI tijekom sljedećeg desetljeća mogao „ubiti sve ljude“. Naglasio je da današnji modeli nisu takva neposredna prijetnja, već da najveći rizik predstavljaju budući superinteligentni sustavi.
Još važnije, Hubinger priznaje da Anthropic zasad nema pouzdano riješen problem alignmenta – osiguravanja da superinteligentni AI trajno djeluje u skladu s ljudskim interesima.
Coxon smatra da bi sljedeća godina ili dvije mogle biti presudne. Razvoj AI-ja usporedio je s „mini Manhattan Projectom“ te pozvao vodeće laboratorije da uspore razvoj i dogovore ograničenja. Na međunarodnoj razini smatra da bi čak mogla biti potrebna privremena zabrana daljnjeg povećavanja sposobnosti najnaprednijih modela.
Na kraju je kolege iz AI industrije pozvao da razmisle žele li doista nastaviti razvijati sve moćnije sustave bez pouzdanog razumijevanja njihova ponašanja i načina kontrole.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....