umjetna inteligencija, kontrola podataka
PEXELS
23.8.2025., 8:30
Inicijativa EU-a protiv pedofilije

Totalna kontrola poruka - zaštita djece ili Orwell?

Svakodnevne milijune poruka mogla bi nadgledati samo umjetna inteligencija

Dobrodošli u 1984.! Tako bi se kolokvijalno mogla opisati inicijativa Europske unije kojom bi se, ako prođe glasanje u parlamentu u Bruxellesu, uvela potpuna kontrola poruka, fotografija, videozapisa i ostalih datoteka koje građani šalju preko svojih mobilnih telefona ili računala. Zakon bi, ako bude usvojen, obvezao sve pružatelje komunikacijskih usluga, uključujući i sada potpuno šifrirane i tajne servise poput WhatsAppa, Signala, Vibera ili Telegrama, da automatski skeniraju sve privatne poruke korisnika.

Nominalni cilj prilično je plemenit. Obrazloženje za tu inicijativu je, naime, borba protiv pedofilije i dječje pornografije. Takav zakon u potpunosti ukida bilo kakav pojam privatnosti, bez ikakvoga jamstva da prikupljeni podaci u nekome trenutku neće biti zloupotrijebljeni. Činjenica je da takav masovni sustav nadzora ne samo da prebacuje gotovo 500 milijuna stanovnika Europske unije u svojevrsnu orvelijansku tvorevinu već se i poništava GDPR sustav zaštite podataka kojom se Europska unija diči.

Prema inicijativi, koju je već podržalo petnaest zemalja članica EU-a, među kojima je i Hrvatska, analiza sadržaja provodila bi se čak na uređaju korisnika prije nego što se poruke šifriraju. To znači da bi se morala načiniti takozvana stražnja vrata za treće strane na uređajima korisnika, odnosno da bi po podacima na vašem mobitelu ili računalu netko mogao kopati i pregledavati ih kad god ste spojeni na internet a da toga niste ni svjesni, a kamoli da vas pita za bilo kakvu dozvolu ili suglasnost.

- Nije prvi put da Europska unija u dobroj namjeri napravi ili predlaže neka rješenja koja kasnije nisu provediva u praksi, ili pak jako zadiru u prava pojedinaca. Uredba GDPR uvela je reda u pravilima tko može raspolagati našim privatnim podacima, ali opet nismo sigurni koliko se toga drže digitalne platforme koje su većinom američke, osim kineskog TikToka, a upravo njima ostavljamo najviše podataka. Uostalom, kako oni znaju da smo baš jučer dodali nekog u imenik na pametnom telefonu, pa nam ga odmah nude kao prijatelja - kaže za naše novine komunikacijski stručnjak Krešimir Macan.

Imajući na umu kako se između korisnika u Europi svakoga dana izmijene milijuni poruka, jasno je da bi nadzor bio automatiziran, odnosno da bi poruke nadgledala umjetna inteligencija. Za početak. Jer takvi sustavi postaju privlačna meta za obavještajne službe koje hakerskim upadima mogu ciljano doći do svih podataka koji su im zanimljivi. Ako je Mossad prije godinu dana mogao postaviti eksploziv u pagere koje su nosili pripadnici Hezbolaha u Libanonu, probijanje sustava komunikacijskih kanala ne bi im trebao biti prevelik problem.

Grgić: Politička i ekonomska manipulacija

- Ta priča o dobrobiti djece, što doista postoji kao problem, u ovom je slučaju celofan kako bi se uvela masovna kontrola ljudi, ne samo vezano za pedofiliju već prvenstveno radi eliminacije političkih i ekonomskih oponenata. Analitički je moguće u samo nekoliko koraka povezati bilo koja dva čovjeka na svijetu koja u stvarnom životu nemaju poveznice. A ovakav sustav kontrole omogućava konstruiranje bilo kakve povezanosti ako se nekoga želi kompromitirati. To je prvenstveno usmjereno protiv stranaka kakve su AfD i sličnih koje se pojavljuju u Europi - kaže za naše novine Zoran Grgić, nekadašnji član saborskog Vijeća za nadzor obavještajnih službi. Kako kaže, sličan obrazac već je jednom viđen u Hrvatskoj, kada je, tijekom afere Turek, tadašnji ravnatelj protuobavještajne agencija POA (dio sadašnje SOA-e), koristio rezultate programa Watson i prikazao pogrešne podatke korisnicima, zbog čega je bio smijenjen.

Naravno, ovakav sustav kontrole mogao bi lako zagorčati život baš svakom pojedincu, a ne samo pripadnicima obavještajnog, poslovnog ili političkog establishmenta. Ne treba smetnuti s uma da prvu analizu podataka provodi umjetna inteligencija, što znači da bi se moglo dogoditi da budete prijavljeni policiji i sigurnosnim službama zbog fotografija ili videosnimaka koje su u stvarnosti potpuno benigne. S djetetom ste na ljetovanju i poslali ste fotografiju svojega djeteta kako skače s mola u more? Jeste li sigurni da vas UI već nije označio kao potencijalnog pedofila?

Prijedlog sustava kontrole jedan je od najkontroverznijih prijedloga zakona koji se, u navratima, pojavljuje pred Europskim parlamentom već nekoliko puta, a prvi su ga put pokušali "progurati" još 2022. Tada je odbačen, no predlagatelji očito idu s idejom "pokušajmo što češće, jednom će uspjeti". Danska je 1. srpnja ove godine preuzela predsjedanje Europskim vijećem, a od tog dana inicijativa je postavljena kao jedan od ključnih prioriteta, s ciljem da bude usvojena do 14. listopada. Ovoga trenutka aktivna je i online peticija pokrenuta prije petnaestak dana kojom se od građana EU-a traži da obaspu pismima i prosvjedima svoje europarlamentarce.

Ministar unutarnjih poslova Davor Božinović kaže kako o tome još nije donesena odluka ni na stručnoj razini, a kamoli da je to postalo zakonodavstvo EU-a. Istaknuo je i da oko tog pitanja postoje različita gledišta.

- Velika većina država, gdje spada i Hrvatska, smatra da se to pitanje treba regulirati zato što na godišnjoj razine raste broj kaznenih dijela i prijava seksualnog iskorištavanja djece na internetu. Mislim da nitko normalan ne može imati ništa protiv da se to pitanje na određeni način regulira. Međutim, postoji nekoliko zemalja koje se tome čvrsto protive..., koje po tom pitanju nisu odlučne, a tih je zemalja sedam ili osam. Ove ostale podržavaju, ali podržavati znači da se nastave razgovori, da se to ne stavi na stranu - kazao je ministar. 

Prijava fotografija, ne i teksta, obvezna

Božinović je rekao da je danas situacija takva da pružatelji usluga mogu dobrovoljno prijaviti ako uoče neki sadržaj koji upućuje na seksualno zlostavljanje djece, a da bi novom odlukom to bilo obvezno i odnosilo bi se na fotografije, a ne i na tekstualni sadržaj. Dodao je da se sada razgovara kako to provesti.

- Dansko predsjedništvo je stavilo na dnevni red da se nastave razgovori na tehničkoj razini. Hrvatska podržava traženje rješenja koje će pomoći nadležnim tijelima i svima u društvu da djeca u manjoj mjeri, idealno nikako, ne budu žrtve nasilja na internetu. U Hrvatskoj je između 400 i 500 takvih kaznenih djela godišnje - rekao je. Ponovio je da je ovo nešto o čemu se razgovara i da su, primjerice, Bugarska, Poljska i Mađarska protiv, dok je Njemačka neodlučna.