PROMJENA NARATIVA: Čelnici AI industrije žele povući ručnu nakon što su godinama stiskali gas do daske

Piše: Kyle Orland

Godinama su se vodeći laboratoriji za razvoj napredne umjetne inteligencije ponašali kao da sudjeluju u sveobuhvatnoj utrci u kojoj pobjednik uzima sve, a na cilju ih čeka kontrola nad superinteligencijom koja će promijeniti svijet (ili barem umjetnom općom inteligencijom koja će promijeniti tržište). Ovog je vikenda cijela industrija počela naglo napuštati takav stav, pozivajući na koordinaciju kako bi se usporio razvoj napredne umjetne inteligencije za koju tvrde da bi uskoro mogla biti previše opasna i nepredvidiva da bi se njome moglo upravljati.

Dario Amodei iz Anthropica bio je na čelu te promjene tona, tvrdeći u eseju od gotovo 4.000 riječi objavljenom ovog vikenda da „moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela” kako bismo izbjegli „utrku prema dnu, potaknutu komercijalnim interesima, (koja) može dodatno pogoršati (katastrofalne) rizike”.

U roku od nekoliko sati i drugi čelnici AI industrije ponovili su isti poziv. Suosnivač i izvršni direktor OpenAI-ja Sam Altman objavio je na društvenim mrežama da se slaže te rekao da su se slične rasprave o tempu razvoja vodile i u OpenAI-ju. Glavni znanstvenik Alphabeta te suosnivač i predsjednik Google DeepMinda Demis Hassabis rekao je da Amodeijev esej „upućuje na pravi put naprijed” te obnovio svoj nedavni poziv na osnivanje industrijskog tijela za standarde. Izvršni direktor Microsofta Satya Nadella objavio je da tvrtka „pozdravlja istraživanje, usmjerenost i promišljeni tempo potrebne kako bi usklađenost bila ispravno postavljena kao cilj dizajna”, uoči objave opsežnog kodeksa ponašanja za svoje modele pod nazivom „humanistička umjetna inteligencija”.

Čak je i Elon Musk, koji je u prošlosti bio kritiziran zbog labavih standarda sigurnosti umjetne inteligencije u svojim modelima, na društvenim mrežama podijelio poveznicu na Amodeijev esej uz jednostavnu poruku odobravanja: „Dario je u pravu.”

Dobro došli u vrli novi svijet „usporavanja AI-ja”.

Dobro, ali ovaj je put stvarno zastrašujuće

U svom eseju Amodei ovu brzu promjenu javnog stava o brzini razvoja prvenstveno pripisuje incidentu OpenAI-Hugging Face, u kojem je „roj” AI agenata koordinirao hakiranje vanjskog subjekta bez izričitih uputa da to učini. Iako je ukupna šteta u tom incidentu bila minimalna, Amodei kaže da ga brine da je „roj koji bi posjedovao veće sposobnosti, ali sličnu razinu neusklađenosti, mogao prouzročiti katastrofalnu štetu”.

Bez usporavanja razvoja napredne umjetne inteligencije, Amodei kaže da se boji da bi za 6 – 12 mjeseci sličan roj AI agenata mogao biti „sposoban preuzeti cijeli internet uz pomoć trajnog botneta (što bi potencijalno moglo prouzročiti štetu vrijednu stotine milijardi dolara)…”

To je barem nešto konkretnija briga od neodređenih strahova da bi nas „AI uskoro mogao sve pobiti”, koje su prošlog tjedna iznijeli neki drugi istraživači umjetne inteligencije. Svako usporavanje vremena potrebnog da se dođe do tog sposobnijeg i opasnijeg modela istraživačima će dati ključno vrijeme da „uvelike smanje rizik da nešto ozbiljno pođe po zlu”, napisao je Amodei.

Amodei priznaje da takvi javni pozivi na usporavanje razvoja umjetne inteligencije sežu barem do 2023. Istodobno kaže da su ranija istraživanja „usklađenosti” AI-ja (odnosno toga koliko su postupci umjetne inteligencije usklađeni sa željama njezina korisnika i tvorca) bila „poput pokušaja proučavanja psihologije ljudi provođenjem eksperimenata na bakterijama”.

Razlika je danas, kaže Amodei, u nadolazećem riziku od sustava rekurzivnog samopoboljšanja (RSI) koji mogu autonomno izgraditi bolje verzije samih sebe. Iako mnogi istraživači to smatraju teško definiranim nedostižnim snom, i Anthropic i OpenAI sada tvrde da nedavni trendovi upućuju na to da bi se takav RSI sustav mogao pojaviti u bliskoj budućnosti.

„Još nismo ostvarili zacrtano i rekurzivno samopoboljšanje nije neizbježno. Ali moglo bi doći prije nego što se većina institucija za to pripremi”, objavili su iz Anthropica u lipanjskom ažuriranju o tom konceptu.

„Ako se (RSI) ne obuzda, mogao bi nadmašiti našu sposobnost da razumijemo i kontroliramo te sustave, stoga mu se mora pristupiti vrlo oprezno, ako uopće”, napisao je Amodei tijekom vikenda.

Kako zaustaviti ovu ludost?

Kako onda svjetska tehnološka industrija izgrađena na nemilosrdnoj konkurenciji odlučuje kolektivno „usporiti” i usredotočiti se na sigurnost? Čini se da nitko ne zna sa sigurnošću, ali Amodei u svom eseju iznosi nekoliko ideja.

Najkonkretnija od njih jest skup „ugrađenih evaluatora” koji bi bili postavljeni unutar svakog laboratorija za razvoj napredne umjetne inteligencije, a dolazili bi iz vanjskih organizacija poput METR-a, uz „pristup poput zaposlenika radi provjere sigurnosnih praksi i prijavljivanja incidenata”. Ti bi nadzornici mogli ponuditi vanjsko mišljenje o radu laboratorija na usklađenosti, neovisnu provjeru tog rada te prijeko potrebnu javnu transparentnost u pogledu svih sigurnosnih napora, rekao je Amodei.

Amodei piše da se Anthropic već obvezao jednostrano uvesti takvog vanjskog nadzornika. Na društvenim mrežama Altman iz OpenAI-ja rekao je: „To je sjajna ideja i učinit ćemo isto”.

Druge Amodeijeve velike ideje za koordinaciju u određenoj mjeri prebacuju odgovornost dalje. Prva poziva na koordinirani razvoj „zajedničkih sigurnosnih standarda” i „ograničenja stope nekontroliranog napretka AI-ja” za sve „tvrtke koje razvijaju naprednu umjetnu inteligenciju u demokratskim državama”. Iako Amodei iznosi neke ideje o tome kako bi takvi standardi mogli izgledati, one se zasad svode na neodređene izjave poput: „modele (koji) imaju sposobnost X … moraju pratiti certifikati o svojstvima usklađenosti Y i Z”.

Te bi standarde, u idealnom slučaju, podržavala „regulacija usmjerena na sve američke tvrtke koje razvijaju naprednu umjetnu inteligenciju” koje ih se ne pridržavaju dobrovoljno, rekao je Amodei, a vjerojatno i slični propisi u drugim demokracijama.

Takvu bi regulaciju, međutim, moglo biti teško postići pod sadašnjom američkom administracijom, budući da je predsjednik Trump na društvenim mrežama napisao da je „jedina kontrola ili ‘ograda’ koja je potrebna AI-ju JAK PREDSJEDNIK KOJI JE PAMETAN (visok IQ!), a SAD ga (jasno) ima!”

Predsjednik Zastupničkog doma Mike Johnson, sa svoje je strane u televizijskim intervjuima ovog vikenda priznao da „moramo postaviti neke ograde, neke sigurnosne mjere kako bismo osigurali da AI ne izmakne kontroli…” Istodobno je dodao da „trenutačno nema potrebe da svi paničare” te da želi „spriječiti Kongres da uskoči i nametne neku vrstu hitnog moratorija”.

David Sacks, koji je supredsjedatelj predsjednikova Vijeća savjetnika za znanost i tehnologiju, ovog je vikenda na društvenim mrežama pozvao proizvođače naprednih modela da se samoreguliraju umjesto da čekaju Washington. „Najlakši način da ne izgradite superinteligenciju jest da se složite da je nećete izgraditi”, napisao je.

NAPOMENA: članak u cijelosti pročitajte na poveznici ispod.

(Izvor: arstechnica.com; 14. rujna 2026.)