Proteklih se desetljeća razvoj tehnologije i njezina prihvaćanja ubrzava. Nekad je trebalo pedesetak godina da bi automobil, telefon ili električna energija u kućanstvu dostigli 50 milijuna korisnika. Za internet i društvene mreže to se skratilo na od pet do sedam godina, a za ChatGPT na nekoliko dana - kaže prof. emer. dr. sc. Vjeran Strahonja s Fakulteta organizacije i informatike Sveučilišta u Zagrebu, te dodaje:

- Ne smatram da je tehnocentrizam bio dominantan u društvu, filozofiji ili politici proteklih pedesetak godina. Zato je potpuna novost ovo što se događa posljednjih nekoliko godina, s eksplozivnim rastom umjetne inteligencije (AI), velikih tehnoloških tvrtki i prelijevanjem utjecaja u globalnu politiku. Sinonim za to je Elon Musk, čovjek koji je ambicije u domeni znanstvene fantastike pretvorio u industrijske projekte stvarnog svijeta.

Muskova vizija

Ukupno uzevši, koliko tehnocentrizam unaprjeđuje civilizaciju, a koliko reducira čovjeka na mehanicističke procese i odvaja ga od duhovnosti, ali i od odgovornosti, između ostalog?

- U pitanju ste naveli više pretpostavki. Ne vidim da aktualni tehnocentrizam reducira čovjeka na obavljanje nekih mehaničkih radnji, baš suprotno, automatizacija i robotizacija otvaraju prostor čovjeku za kvalitetno slobodno vrijeme i vlastiti razvoj, a razvoj umjetne inteligencije i robotike, otvaraju pitanje što će uopće ljudi raditi u budućnosti. U prošlotjednom intervjuu magazinu The Economist, Elon Musk je u sat i pol iznio svoju viziju budućnosti, između ostalog da će do 2036. roboti i umjetna inteligencija stvarati toliko roba i usluga da ljudi neće morati raditi, a imat će visoke prihode, dakle ne zagarantirani osnovni dohodak ili nešto slično. I nije on jedini s takvim idejama.

Tu se može postaviti nekoliko pitanja, između ostalog na koje čovječanstvo tehnološki moguli misle. Postoji dio čovječanstva kojeg tehnologija dotiče rubno i često negativno kroz utjecaj klimatskih promjena, glad i sušu. Na njih sigurno ne misle. Kina ima vjerojatno svoje i drukčije planove, a i Indija. Znači, ostaje ono što kolokvijalno zovemo Zapad, gdje i mi pripadamo. Dobra vježba za provjeru ostvarivosti ideje o visokom prihodu bez rada bila bi da za početak svi ljudi u SAD-u dobiju zdravstveno osiguranje i pristup zdravstvenim uslugama, a taj se cilj prema realnim pokazateljima udaljava. Drugo, put do utopije visokih prihoda bez rada, ili s malo rada, vjerojatno bi trebalo biti četverosatno radno vrijeme, što se ne događa.

Možda i najvažnije pitanje je što će društvo raditi u takvoj budućnosti gdje će većinu poslova preuzeti umjetna inteligencija, roboti i drugi strojevi, te kako se ljudi trebaju pripremati za takvu budućnost. Tehnološki moduli o tehnologiji i budućnosti tehnologije govore dosta konkretno, no kada ih se pita kako će izgledati svakodnevni život milijuna ljudi čiji će se intelektualni poslovi promijeniti ili nestati, odgovori postaju mnogo općenitiji i svode se na kreativnost, znanost, razvijanje međuljudskih odnosa, hobije i sl. Očigledno je da nema ni približnog modela društva budućnosti, ni vizije društvenih posljedica i usmjerenja za mlade generacije.

Ipak, nitko ne poriče da strojevi i umjetna inteligencija još dugo neće zamijeniti čovjeka u nekim nerepetitivnim poslovima gdje su bitne manualne vještine. Mislim da je Jensen Huang iz tvrtke Nvidia prvi izrekao da ako tražite zanimanje gdje vas umjetna inteligencija neće zamijeniti, budite vodoinstalater! To je dobra uputa na individualnoj razini, ali baš i ne za čovječanstvo. Tehnološki moguli savjetuju da ljudi moraju nastaviti učiti matematiku, programiranje i kritičko razmišljanje kako bi mogli učinkovito surađivati s AI-jem (nobelovac Demis Hassabis iz DeepMind Technologies) ili da će sposobnost postavljanja dobrih pitanja postati važnija od samog izvođenja zadataka (Altman). Musk otvoreno priznaje da postoji rizik gubitka osjećaja svrhe i smatra da društvo još nema dobar odgovor na to pitanje.

Ustupljeno

Gdje je u novom "tehnološkom poretku", recimo tako, danas Europa/Europska unija? Zaostaje li u tehnološkoj utrci za Kinom i Sjedinjenim Američkim Državama?

- SAD i dalje predvodi u razvoju temeljnih digitalnih tehnologija, umjetne inteligencije i poluvodiča. Kina ubrzano sustiže ili preuzima vodstvo u proizvodnji, robotici, električnim vozilima i industrijskoj primjeni AI-ja, a posebnu prednost u budućnosti joj daje kontrola nad ključnim sirovinama, kao što su rijetke zemlje, i golemi izvori energije. Realno, danas je glavno tehnološko natjecanje između SAD-a i Kine. Europa ima snažnu znanstvenu bazu, ali sporije pretvara istraživanja u globalne tehnološke kompanije, ima mnoge administrativne barijere, posebno za rizični kapital, privatnost, autorska prava i sl. Europa mora ubrzati inovacije i ulaganja želi li zadržati globalnu konkurentnost, a da je to moguće, pokazuje veliki zaokret u europskoj vojnoj industriji u kratko vrijeme.

Pozicija Hrvatske

Gdje je u novom "tehnološkom poretku" danas Republika Hrvatska? Zaostajemo li u tehnološkoj utrci za najrazvijenijima?

- Hrvatsku u tehnološkoj utrci prije svega vidim kao dio EU-a. Zaostaje EU, pa zaostaje i Hrvatska. Što se tiče industrije i tehnologije, stvari se mogu promijeniti relativno brzo, pametnom politikom i financijskim ulaganjima, ako postoji znanje i volja. Ono što nikakav novac ne može promijeniti u kratko vrijeme su ljudi, njihove vrijednosti, znanje, vještine i kompetencije. Čini mi se da u obrazovnom sustavu nemamo, ni ne tražimo rješenja za tehnološke promjene o kojima razgovaramo. Tu vidim problem. Obrazovanje, a prije svega donositelji odluka u obrazovanju, sada bi trebali biti mobilizirani, tražiti sugovornike i rješenja u akademskoj zajednici, industriji i svim slojevima društva, preispitivati pristupe i prakse iz drugih zemalja i kritički ih preslikavati na naše uvjete, a ne vidim da se to događa.

Država bi morala imati aktivniju ulogu, kreirati odgovarajuće politike i pravne okvire, te promovirati dobre prakse u područjima kao što je podatkovna suverenost. Razloga za to ima mnogo, od zaštite nacionalnih interesa, privatnosti građana i kritične infrastrukture, do smanjenja ovisnost o stranim tehnološkim platformama i pružateljima usluga u situacijama globalne nesigurnosti i kriza.

Podatkovne suverenosti nema bez podatkovnih centara, a prirodni resursi za njihovu izgradnju su ograničeni. U Hrvatskoj se planira izgradnja 1GW podatkovnog centra, bili su sastanci na visokoj razini, dana su obećanja i preuzete obveze, nacionalni regulatori već daju neka odobrenja investitorima, a javnost zapravo ne zna kakav je plan i kako se daleko otišlo. Pritom država može riješiti prostorne planove, trase dalekovoda i izvlaštenja, ali ne može promijeniti zakone fizike. Ključni problem tako velikog podatkovnog centra je kako će se to postrojenje hladiti. Električna energija može se proizvesti negdje daleko, kupiti i transportirati, a postrojenje se može hladiti samo u neposrednoj blizini. Ako je to isparavanje, dovoljna je srednjoškolska fizika da znamo kako nam treba više od oko 1480 tona vode za odvođenje 1GWh toplinske energije u rashladnom tornju, dnevno više od 45.000 tona. Ako hladimo rijekom ili podzemnom vodom, kojoj temperaturu podignemo za 3 °C, u sekundi trebamo 80.000 litara! Jasno, za točne proračune i konkretne tehnologije treba više od srednjoškolske fizike, ali ni na toj osnovnoj razini ne vidim odgovore.

Kako bismo mogli iskoristiti naše prednosti, a umanjiti utjecaj nedostataka?

- Kad govorimo o obrazovanju, ali i drugim područjima, za početak bi bilo dobro da imamo popis otvorenih tema i problema vezanih uz tehnologiju. Kroz obrazovni sustav svih razina učenike i studente pripremamo za svijet kakav je bio jučer, a kad završe škole, bit će potpuno drugačiji. Ne znamo kakav će biti, ali imamo neke analogije u prošlosti i greške koje smo učinili. Na primjer, pojavom digitalnih kalkulatora i računala prestala je potreba za računanjem napamet i skraćenim računanjem, logaritamskim tablicama i sl. Aplikacije na pametnim telefonima smanjile su potrebu za pamćenjem ruta, pa nam prostorna orijentacija slabi. Tražilice su smanjile potrebu za pamćenjem činjenica, ali povećale važnost pronalaženja, procjene i povezivanja informacija.

Nekoliko desetljeća od pojave računala premalo je vremena da bi ljudski mozak evolucijski promijenio svoju organizaciju, ali postoji plastičnost mozga. Mozak preraspodjeljuje resurse na nove zadatke, prema onome što najviše koristimo i vježbamo. O tome bi kreatori obrazovnog sustava morali voditi više računa, tako da oslobođene resurse iskoristimo da se djecu uči algoritamski način razmišljanja, matematička logika i logičko zaključivanje općenito, analize podataka, igranje strateških igara, učenje novih matematičkih i znanstvenih koncepata i sl., a ne da im je kognitivni, apstraktni i logički aparat degradiran, što pokazuju nacionalni testovi i državne mature.

Bez plana i dubokih promjena nećemo odgajati efikasnije, pametnije i bolje ljude koji svoje sposobnosti povećavaju uz pomoć AI-a, nego prepustiti da vrijeme koje je oslobođeno zahvaljujući tehnologijama popuni doživljaj, zabava i trivijalije. I to je prava opasnost za nas kao narod, Europu i svijet u cjelini.

Ipak, ne treba podcijeniti prirodu čovjeka, mnogo ovisi o tome kako će se svatko od nas postaviti. Prva velika tehnološka promjena se dogodila mehanizacijom, zamjenom fizičkog rada ljudi strojevima. O tome su sanjale generacije, a kad se zbilo, nespremni dio populacije fizički je degradirao zbog fizičke neaktivnosti i obilja hrane. Spremniji se dio populacije pojačano bavi fizičkim aktivnostima, teretane su pune, a i priroda vikendom. Pretpostavljam da će se to dogoditi i u intelektualnoj sferi, razvojem AI-ja. Dio populacije će intelektualno zahiriti, a dio će pronaći neku kompenzaciju. Zapravo to se već događa. Evo, ja procvat kvizova na televiziji i pub kvizova povezujem s tim da ljudi imaju potrebu aktivirati mozak, memoriju i reflekse u situaciji kad je sveobuhvatni izvor informacija i znanja uvijek pri ruci na pametnom telefonu. To je instinktivna reakcija, a pub kvizovi i društvene igre, one fizičke, ne digitalne, imaju još jednu dimenziju - društvenu. To je instinktivna samoobrana od digitalnog otuđenja.

S tim potencijalom bi kreatori obrazovnih politika i općenito dizajneri društva u kakvom ćemo živjeti morali voditi računa. I upravo to nam nedostaje, ne vidim takva promišljanja.

Pitanje kontrole

Zaključno, kakva je budućnost tehnološkog razvoja i napretka? Kuda i kamo sve to vodi? Koje su opasnosti, a koji su benefiti? Daje li umjetna inteligencija svemu tome dodatno ubrzanje? Vaš završni komentar?

- Najprije o umjetnoj inteligenciji. Najniže razine uloge AI-ja su one gdje je AI izvor znanja, izvršitelj pojedinih zadataka i suradnik čovjeku. Tu je čovjek prisutan i dominantan. Problemi s AI-jem nastaju na višim razinama operativne autonomije AI-ja, kad čovjek gubi kontrolu. Prije nekoliko dana je Sam Altman rekao da smo u razvoju AI-ja dosegnuli točku singularnosti, u kojoj umjetna inteligencija nadmašuje ljudsku inteligenciju i počinje napredovati tempom koji je ljudima teško predvidjeti ili kontrolirati. Za to ima i nekoliko primjera koji upozoravaju.

Pitanje je tko će to kontrolirati. U već spomenutom prošlotjednom intervjuu Elon Musk je iznio ideju da se osjetljivim pitanjima umjetne inteligencije, kao što je sigurnost, bave tehnološki konkurenti jer su konkurenti i mogu "jedan drugog držati poštenim". Prema njemu, vlade za to nisu sposobne. Ja mislim da donošenje odluka o tehnološkim politikama i smjerovima razvoja postaje jedan od ključnih zadataka vlada i za to se moraju osposobiti. To vrijedi i za EU i zemlje članice. Ako je do sada bilo previše birokracije i čepova koji se ne mogu odvojiti od boce, sada je vrijeme za uspostavu mehanizama kontrole, regulacije i upravljanja rizicima.

Drugo ključno područje su prirodni resursi, klimatske promjene, energija i budućnost našeg planeta. U prošlosti smo uglavnom razmišljali o dvije varijable, mogućem napretku tehnologije i geopolitici. Prirodni resursi su bili dovoljni za tehnologiju kakvu smo mogli osmisliti, a čovjek je vladao tehnologijom. Sada u jednadžbu ulaze klimatske promjene i tehnologija koja postaje dominantna čovjeku u mnogim područjima. Malo sarkastično, možemo reći da je umjetna inteligencija tehnologija koja električnu energiju pretvara u privid razumijevanja, ali činjenica je da AI može postati najveći konzument energije i najveći toplinski zagađivač, za što nemamo globalni plan. Uza sve to, geopolitički odnosi kakve smo poznavali su se urušili, a i neke civilizacijske vrijednosti.

Na kraju, nisam tehnološki skeptik ni pesimist. Tehnološki napredak i umjetna inteligencija mogu znatno povećati produktivnost, unaprijediti zdravstvenu skrb, obrazovanje i javne usluge te pridonijeti višoj kvaliteti života, ako se tako usmjeri. Za Hrvatsku, uz pametnu politiku, umjetna inteligencija znači priliku.