U posljednja četiri desetljeća tehnologija je radikalno poboljšana, te je promijenila svijet donoseći nam nevjerojatan napredak, ali i brojne potencijalne opasnosti i izazove, s kojima se kao civilizacija danas suočavamo više nego ikada prije. Kako to objašnjava, što je uvjetovalo takav munjeviti razvoj i napredak, donoseći nam blagodati, ali i "darove prokletstva", da se tako izrazim - pitali smo prof. dr. sc. Tomislava Pletenca, kulturnog antropologa s Filozofskog fakulteta Sveučilišta u Zagrebu.

ALGORITAMSKE ZAMKE

- Pa zapravo i nije tako munjevita kao ona koja se događala na prijelazu iz 19. u 20. stoljeće. Znanstvena otkrića tada su puno brže mijenjala svijet nego što je to danas. Počevši od električne energije pa do strojeva pokretanih fosilnim gorivima. Tek je internet zapravo mjerljiv s tom revolucijom, a strojevi za duboko učenje koje pogrešno zovemo umjetnom inteligencijom još su u preranoj fazi uporabe da bismo mogli reći hoće li doista promijeniti našu svakodnevicu. Uspjeh industrijske revolucije s kraja 19. stoljeća bio je skopčan s društvenim promjenama koje su ga omogućile, posebno s prevladavanjem modela nacije kao bazičnog uređenje zajednice. Internet nas je, međutim, postavio pred problem društvenog uređenja za koje sustav nacionalnih država više nije pogodan, a drukčiji tip društvenog uređenja nemamo. Treba biti svjestan da se ideja nacije vrlo polako stoljećima stvarala i već bila promišljena kao model koji može zamijeniti monarhije. Danas takav model nemamo, pa se gomila kriminala preselila u duboki internet jer ga zakonodavstvo utemeljeno u nacionalnom okviru ne može kontrolirati. Naime, već i mjesto počinjenja zločina postaje vrlo diskutabilno. Međunarodni sustav utemeljen na nacijama teško može pokrenuti sve potencijale koje internet ima. Premda nas se sa svih strana uvjerava da je naše postojanje na internetu vrsta proizvodnje informacija koje se onda koriste na različite načine bez našeg pristanka i znanja, činjenica je da autokratska društva imaju problem s internetom, te se služe cenzurom i zabranama. A upravo bi takvim režimima trebalo biti idealno kontrolirati svaki naš potez na mreži. Narav interneta je mrežna, a ne hijerarhijska i time ju je teže kontrolirati i regulirati unutar sadašnjih paradigmi. Prema mom mišljenju, postojanje svakog od nas na mreži još uvijek nije ni približno prava kopija nas. Čak ni analitika koju pružaju strojevi za duboko učenje ne može konstruirati našu apsolutnu virtualnu kopiju čiji bi potezi mogli biti predvidljivi. Stoga marketinške kampanje na internetu stvaraju emocionalni okoliš u kojem izazivaju određene reakcije, koje su najčešće utemeljene na nepredvidiljvosti i strahu.

Živimo li u doba digitalnog totalitarizma? Slobodan Divjak, ugledni srbijanski filozof, u jednom od svojih predavanja vezanih uz tehnološki napredak, između ostalog je naglasio kako se "realna opasnost od planetarizacije digitalnog totalitarizma ne može razumjeti na adekvatan način bez prethodnog isticanja ključne točke sličnosti između dva klasična totalitarizma modernog doba - sovjetskog i nacističkog". Vaš komentar?

- Yanis Varoufakis uveo je termin tehnofeudalizam kako bi upozorio na problematičnost pristupa i djelovanja na mreži. Kompletni digitalni prostor kontroliran je od nekoliko velikih digitalnih kompanija i pristup je njima reguliran. Što je još važnije, te kompanije određuju i načine našeg mišljenja i djelovanja. Još je davno McLuhan napisao da je medij poruka, a mi smo uronjeni u medij koji je reguliran na osobit način i u njemu se proizvode i osobite vrste poruka. Tako smo, prema Varoufakisu, zapravo kmetovi koji za nove gospodare odrađuju posao. Nisam sklon takvom pogledu jer te velike tehnološke kompanije koriste se internetom na vrlo skučen način i život izvan njihovih procedura je moguć, ali zahtijeva određenu računalnu pismenost. Slično je bilo i s televizijom, za koju se nikada nismo opismenili i naučili ju gledati. Totalitarizam je moguć isključivo u prostorima u kojima je mišljenje i korištenja resursima ograničeno. Digitalni totalitarizam je dakle moguć isključivo ako se opismenjavanje za njega provodi na isključiv način. Dovoljno je pogledati programske pakete koje imamo i koji nesumnjivo olakšavaju svakodnevicu, ali zapravo malo tko izvan uskog kruga stručnjaka zna kako su napisani, od programskog jezika pa nadalje. Dapače, Microsft vam, primjerice, neće ni dopustiti da uđete u takozvani izvorni kod. To vas ostavlja u poziciji da se koristite onime što vam je servirano. S jedne strane to je u redu, jer ne mora svatko biti IT stručnjak, ali je istovremeno tako i skučen izbor onog čime ćete se koristiti. Od osnovne škole predmet informatike tako je orijentiran na upotrebu programskih paketa, a znatno manje na logiku korištenja računalom, čime se stvara vojska novih korisnika jednog rješenja. Dakle, na neki način već smo dugo u digitalnom totalitarizmu.

Što se tiče opasnosti, među ostalima oglasio se slavni (i bogati) holivudski filmski stvaratelj James Cameron, koji upozorava da bi budućnost mogla biti strašnija od scenarija iz Terminatora, njegova "proročanskog" djela, u kojem globalna umjetna inteligencija/mreža Skynet preuzima kontrolu i kreće u rat protiv ljudi... Jesmo li pred ostvarenjem takvog crnog scenarija?

- Ideja rata strojeva i ljudi stara je gotovo koliko i civilizacija. Čak i u mitu južnoameričkih domorodaca Popol Vuh imate priču o pobuni predmeta koje je čovjek izradio protiv njega. No za pobunu treba postojati želja i cilj. Strojevi za duboko učenje nemaju želju, neki svoj autonomni prostor, u neku ruku glupavo bi bilo pitati postoji li algoritamsko nesvjesno. Alatka koju imamo dobar je asistent, jer brzo može naučiti pronaći najbolja rješenja i obrasce koje mi nismo u stanju, odluka o tome što ćemo učiniti s tim rješenjima i dalje ostaje na nama. Pred nama su strojevi koji su utemeljeni u teorijama strukturalizma, koji je sredinom 20. stoljeća napravio revoluciju prvo u lingvistici, a onda i u ostalim društvenim i humanističkim znanostima. Međutim, strukturalizam nije izdržao kritiku i empiriju te je dosegnuo određene limite. To ne smanjuje njegovu vrijednost, ali definitivno nije zlatni gral razumijevanja ljudske povijesti i društva. Zasigurno ćemo rješenja nekih problema nekritički prepustiti novim algoritmima i prepustiti se njihovim odlukama. No prvotni zahtjev uvijek dolazi od nas. Primjerice, možemo umjetnu inteligenciju natrpati podatcima iz povijesti i tražiti da pronađe najbolji model za iskorjenjivanje gladi u svijetu. Na temelju podataka algoritam će nam ponuditi model da, primjerice, istrijebimo dio ljudske populacije. Vjerojatno nitko ne bi pristao na takvo rješenje, pa bi se onda tražili novi modeli. Algoritmi su sjajno sredstvo za pisanje bilo kakvog teksta usmjerenog na nečiju valorizaciju. Primjerice, napisati prijedlog istraživanja za financiranje. Algoritam će preuzeti uspješno napisane projekte, otkriti unutarnju strukturu i ponuditi vam gotov proizvod na zadanu temu. Svagdje gdje postoji struktura, algoritam će biti bolji od nas. Ali, kao što rekoh, nije sve struktura, ili, da ponovimo šezdesetosmaški slogan: "Strukture ne hodaju ulicom!"

No, da ne bi bilo zabune, algoritmi dubokog učenja mogu se konstruirati da se samoreproduciraju, pa im tako možemo dodijeliti ciljeve (primjerice, nagon za samoodržanjem). Problem s kojim bismo se suočili izvan strogo laboratorijskih uvjeta bio bi vrlo velik jer je naše znanje o životu, evoluciji i prirodi relativno skromno. Ono što ljudski um teško razumije jesu kompleksni sustavi poput ekoloških odnosa i veza, klime ili pak naravi samosvijesti. No ljudski um istovremeno vrlo efikasno pojednostavljuje i apstrahira odnose, stvara modele s pomoću kojih virtualizira stvarnost. Ipak, pojednostavljenja nisu nikada točna bez ostatka, ona su samo dovoljno dobre aproksimacije. Kada bismo se, dakle, odlučili da algoritme učimo na temelju naših približnih aproksimacija, rezultat bi bio tragičan, sigurno ne opća umjetna inteligencija, nego neki tehnički model koji bi na kraju uništio samog sebe. S obzirom na to da ne razumijemo samosvijest, ne možemo ni stvoriti kopiju samosvijesti. Možemo eksperimentirati s raznim algoritamskim modelima kako bismo možda nešto naučili, ali sigurno ne bi bilo najpametnije eksperimentu i modelu prepustiti da odlučuje.

GLOBALNA KRAĐA

Trebamo li se bojati novih tehnologija, napose umjetne inteligencije, o kojoj sad svi pričaju? Kakva je zapravo uloga umjetne inteligencije u daljnjem ne samo digitalnom i tehnološkom napretku civilizacije nego i društva općenito, pa i demokracije kakvu do sada poznajemo?

- Oprez je nužan, strah nepotreban. Naime, u sadašnjim okolnostima nije mi jasno kako bi to proizvodni sustav odustao od ljudskog rada. Lijepo je zamisliti svijet u kojem sve rade strojevi, ali zar je doista itko toliko naivan da smatra kako velike korporacije i države imaju interes da nas oslobode od bitke za preživljavanje. Kompeticija i izvrsnost ključne su riječi tog sustava. Ako ubijete taj mit, kako ćete kontrolirati sa sadašnjim resursima populaciju? Poslovi se neće izgubiti, jer ako naglo osiromašite velike dijelove populacije, onda se neće strojevi pobuniti protiv ljudi, nego ljudi protiv strojeva.

Pred nama je borba za autorska prava. Ako su algoritmi dubokog učenja izrasli na podatcima koje smo svi mi stvarali tijekom povijesti, onda ti algoritmi ne mogu pripadati korporacijama, nego čovječanstvu. Već sada imamo problem s autorskim pravima oko jezika. Kome pripada jezik na kojem je treniran, primjerice, ChatGPT? Ne znam kako možemo opravdati naplatu upotrebe jezika. Ovog časa svjedočimo globalnoj krađi javnog dobra. To bi značilo da hitno treba pronaći način i da tehnologija koja je nastala na javnom dobru postane javno dobro. To je prva i osnovna stvar koju treba riješiti. O tome ovisi sve ostalo.