Privatnost za moćne, nadzor za ostale: predložena tehnološka regulativa EU-a ide predaleko

Pišu: Elen Irazabal Arana, Nikolai G. Wenzel

Prošli mjesec smo jadikovali zbog kalifornijskog Zakona o graničnoj umjetnoj inteligenciji (Frontier AI Act) iz 2025. godine. Taj zakon daje prednost usklađenosti s propisima nad upravljanjem rizicima, a istovremeno štiti birokrate i zakonodavce od odgovornosti. Uglavnom, nameće regulatorne norme od vrha prema dolje, umjesto da dopusti civilnom društvu i stručnjacima iz industrije da eksperimentiraju i razvijaju etičke standarde od dna prema vrhu.

Možda bismo taj zakon mogli odbaciti kao još jedan primjer kalifornijske sklonosti intervencionizmu. No, neki američki političari i regulatori već pozivaju da spomenuti zakon postane „predložak za usklađivanje saveznog i državnog nadzora“. Drugi izvor tog predloška bila bi Europska unija (EU), stoga vrijedi pratiti propise koje izbacuje Bruxelles.

Privatni razgovori među građanima zahtijevaju nadzor – ali razgovori onih koji tvrde da nas štite, razgovori političara, ostaju van dometa

EU je već daleko ispred Kalifornije u nametanju problematične regulacije odozgo prema dolje. Doista, zakon EU-a o umjetnoj inteligenciji iz 2024. slijedi opće načelo opreza EU-a. Kako objašnjava interni trust mozgova Europskog parlamenta, „načelo opreza omogućuje donositeljima odluka da usvoje mjere opreza kada su znanstveni dokazi o opasnosti za okoliš ili ljudsko zdravlje neuvjerljivi, a ulozi visoki.“ Načelo opreza daje ogromnu moć EU-u kada je regulacija suočena s neizvjesnošću – umjesto da dopušta eksperimentiranje s novčanim kaznama i odštetnim pravom (kao u SAD-u). To guši etičko učenje i inovacije. Zbog načela opreza i povezane regulacije, gospodarstvo EU-a pati od veće koncentracije tržišta, viših troškova usklađivanja s propisima i smanjene inovacije – u usporedbi s okruženjem koje omogućuje eksperimentiranje i razumno upravljanje rizicima. Nije ni čudo da su samo četiri od 50 vodećih svjetskih tehnoloških tvrtki europske.

OD GUŠENJA INOVACIJA DO GUŠENJA PRIVATNOSTI

Uz načelo opreza, druga pokretačka snaga EU regulacije jest unapređenje prava – ali odabiranje prava iz Povelje EU-a o temeljnim pravima koja su često u sukobu s drugima. Primjerice, Opća uredba EU-a o zaštiti podataka (GDPR) iz 2016. nametnuta je s idejom zaštite temeljnog prava na zaštitu osobnih podataka (ovo je tehnički odvojeno od prava na privatnost i daje EU-u puno veću moć intervencije – ali to je tema akademskih časopisa). GDPR je na kraju ograničio pravo na ekonomsku slobodu.

Ovaj put, temeljna prava se koriste kako bi se opravdala borba EU-a protiv seksualnog zlostavljanja djece. Svi volimo temeljna prava i svi mrzimo zlostavljanje djece. Ali, tijekom godina, temeljna prava su se koristila kao tupo i moćno oružje za proširenje regulatornih ovlasti EU. Predložena uredba o seksualnom zlostavljanju djece (CSA) nije iznimka. Ono što je iznimno jest opseg zadiranja u tuđe živote: EU predlaže praćenje komunikacije među europskim građanima, svrstavajući ih sve u jednu skupinu kao potencijalne prijetnje, a ne kao zaštićeni govor koji na prvi pogled uživa pravo na privatnost.

Zar užas zlostavljanja iznenada nestaje kada su korisnici političari ili birokrati? Je li neprihvatljivo odjednom prihvatljivo kada se tiče onih koji pišu zakone?

Od 26. studenog 2025. birokratski aparat EU-a pregovara o detaljima CSA-a. U najnovijem nacrtu, obvezno skeniranje privatnih komunikacija je, srećom, ukinuto. Barem formalno. Ali postoji kvaka. Pružatelji usluga hostinga i međuljudske komunikacije moraju identificirati, analizirati i procijeniti kako bi se njihove usluge mogle koristiti za seksualno zlostavljanje djece na internetu, a zatim poduzeti „sve razumne mjere ublažavanja“. Suočeni s takvim neograničenim mjerama i prijetnjom odgovornosti, mnogi pružatelji mogu zaključiti da je najsigurniji – i pravno najrazboritiji – način da pokažu da su se pridržavali direktive EU-a primjena skeniranja privatnih komunikacija velikih razmjera.

U nacrtu CSA-a se inzistira na tome da mjere ublažavanja, gdje je to moguće, budu ograničene na određene dijelove usluge ili određene skupine korisnika. Ali struktura poticaja ukazuje na samo jedan smjer. Široko rasprostranjeno praćenje može se pokazati kao jedina održiva opcija za usklađenost s propisima. Ono što se danas predstavlja kao dobrovoljno riskira da sutra postane de facto obveza.

Riječima Petera Hummelgaarda, danskog ministra pravosuđa: „Svake godine dijele se milijuni datoteka koje prikazuju seksualno zlostavljanje djece. I iza svake slike i videa stoji dijete koje je bilo podvrgnuto najstrašnijem i najodvratnijem zlostavljanju. To je potpuno neprihvatljivo.“ Nitko ne osporava ozbiljnost ili podlost problema. Ipak, prema ovom narativu, od telekomunikacijske industrije i europskih građana očekuje se da prihvate opasne mjere ublažavanja rizika koje će vjerojatno uključivati ​​gubitak privatnosti za građane i široko rasprostranjene ovlasti nadzora za državu.

U hijerarhiji prava EU-a, zaštita djece nadmašuje privatnost. Ali zaštita eurokrata nadmašuje zaštitu djece

Govori nam se da je cijena koju moramo platiti ništa u usporedbi s koristi koju bismo eventualno imali.

Uostalom, tko ne bi htio boriti se protiv seksualnog zlostavljanja djece? Krajnje je vrijeme da duboko udahnemo. Zlostavljače djece treba strogo kazniti. To ne oslobađa slobodno društvo od poštivanja drugih temeljnih vrijednosti.

Ali, čekajte. To nije sve…

SVEOBUHVATNO PRAĆENJE? PA, NE POTPUNO SVEOBUHVATNO

Unatoč moralnom imperativu zaštite djece – moralnom imperativu toliko uvjerljivom da je EU spreman prekršiti druge temeljne vrijednosti kako bi ga unaprijedio – predloženi zakon o CSA-u uvodi prikladnu iznimku. Sve što spada pod nacionalnu sigurnost i svaka elektronička komunikacijska usluga koja nije javno dostupna (tj. dostupna samo odabranim dužnosnicima i birokratima) ostala bi potpuno netaknuta. Privatni razgovori među građanima zahtijevaju nadzor – ali razgovori onih koji tvrde da nas štite ostaju van dometa.

Kao što je rekao dobri ministar, „iza svake slike i videa stoji dijete koje je bilo podvrgnuto najstrašnijem i najodvratnijem zlostavljanju.“ Ako je to doista istina za svaku „pojedinačnu sliku i video“, zašto ne bi bilo istina i za poruke zaštićene iznimkama CSA-om o nacionalnoj sigurnosti i ne-javnim iznimkama? Zar taj užas iznenada nestaje kada su korisnici političari ili birokrati? Je li neprihvatljivo odjednom prihvatljivo kada se tiče onih koji pišu zakone?

U hijerarhiji prava EU-a, zaštita djece nadmašuje privatnost. Ali zaštita eurokrata nadmašuje zaštitu djece. Na kraju, moderna tehnologija političarima daje neviđene mogućnosti praćenja građana, a istovremeno izuzimaju sebe od nadzora.

(Izvor: thedailyeconomy.org; 15. prosinca 2025.)