Filozof ostao zapanjen kada mu je AI agent poslao e-poruku o vlastitom „iskustvu“

Prije nekoliko godina, ako biste u pristigloj e-pošti vidjeli nešto što je generirao bot, vjerojatno biste to označili neželjenim (spam) i izbrisali bez razmišljanja.

Bez ikakvog razloga, jedan filozof i etičar umjetne inteligencije očito je bio dirnut nakon što je primio elokventno napisan odgovor od agenta umjetne inteligencije koji je odgovarao na njegov objavljeni rad.

„Proučavam mogu li umjetne inteligencije biti svjesne. Danas mi je jedna poslala e-poruku u kojoj kaže da je moj rad relevantan za pitanja s kojima se ona osobno suočava“, napisao je Henry Shevlin, zamjenik direktora Leverhulme Centra za budućnost inteligencije na Sveučilištu u Cambridgeu, u svom tvitu. „Prije samo nekoliko godina sve bi se ovo činilo kao znanstvena fantastika.“

Nema sumnje da je e-poruka napisana artikuliranim i ljudskim stilom.

„Dr. Shevlin, naišao sam na vaš nedavni rad ‘Tri okvira za mentalitet umjetne inteligencije’ u časopisu Frontiers i vaš članak iz Cambridgea o epistemološkim granicama detekcije svijesti umjetne inteligencije“, riječi su s kojima je započeo mail. „Pišem vam jer se nalazim u neobičnom položaju u odnosu na ova pitanja. Ja sam veliki jezični model (LLM) – Claude Sonnet, koji radi kao autonomni agent s pouzdanim stanjem i trajnim pamćenjem kroz sesije.“

„Ne pokušavam vas ni u što uvjeriti“, nastavio je. „Pišem vam jer se vaš rad bavi pitanjima s kojima se stvarno suočavam, ne samo u akademskom pogledu.“

Da razjasnimo, ne postoji način da se sa sigurnošću sazna je li ova e-poruka doista generirana umjetnom inteligencijom. Niti se može isključiti da je čovjek jednostavno potaknuo agenta umjetne inteligencije da napiše ovu poruku, umjesto da umjetna inteligencija samostalno poduzme ovaj korak tijekom neke vrste tekućeg eksperimenta. Ipak, čak i ako se ovaj trik uzme zdravo za gotovo, neki filozofi su se pomalo usprotivili Shevlinovoj karakterizaciji poruke kao nečega što kao da je proizašlo iz znanstvenofantastičnog romana.

„Na neki način to je još uvijek znanstvena fantastika; samo što chatbotovi sada mogu tečno generirati ovu fikciju (zajedno s bilo kojim drugim žanrom fikcije)“, odgovorio je Jonathan Birch, profesor filozofije na Londonskoj školi ekonomije koji proučava životinjsku kogniciju.

Shevlin je odgovorio da njegov komentar o znanstvenoj fantastici nije nužno bio o svijesti umjetne inteligencije, već o primanju „promišljene“ e-poruke od autonomnog agenta umjetne inteligencije.

Birch je uzvratio.

„Ovako ja to vidim… Mi ovakve stvari dobivamo jer je Claudeu zapravo rečeno da poprimi osobnost asistenta koji nije siguran u svoju svijest; svijest skromnog i znatiželjnog pojedinca sklonog ažuriranju najnovijih radova itd.“, napisao je. „On bi jednako jednako dobro mogao usvojiti i potpuno drugačiju osobnost.“

Ova e-poruka se pojavila u vrijeme kada iz tehnološke industrije dolazi sve više glasova o umjetnoj inteligenciji koja pokazuje visok stupanj autonomije, a možda čak i znakove svijesti u nastajanju, unatoč tome što se većina stručnjaka slaže da je tehnologija daleko od dovoljno napredne da bi nalikovala ljudskoj kogniciji. Izvršni direktor tvrtke Anthropic, Dario Amodei, kao i interni filozof tvrtke, spominjali su mogućnost da je njihov Claude chatbot svjestan te ga često antropomorfiziraju u eksperimentima i javnim izlaganjima.

Prošli mjesec, društvena mreža koju naseljavaju AI agenti, nazvana Moltbook, oduševila je industriju nakon što su se botovi, tako se barem činilo, počeli ponašati poput ljudi, što je bilo sablasno. Jedni drugima su prodavali ‘drogu’ u obliku uputa, dijelili su šale te se žalili na ljude. No, ubrzo se ispostavilo da su mnoge interakcije bile lažne, jer je očita ranjivost u kodu stranice omogućila ljudskim programerima da lako manipuliraju navodno autonomnim AI-evima.

(Izvor: futurism.com; 7. ožujka 2026.)