Američki predsjednik Donald Trump objavio je kako njegova administracija razmatra ograničavanje rada i pojačanje kontrole sustava umjetne inteligencije. Trump, kao jedan od najglasnijih zagovornika slobodnog UI-ja, dijametralno je promijenio mišljenje nakon incidenta koji se dogodio prije nekoliko dana, koji pokazuje kako je umjetna inteligencija već toliko razvijena da počinje samostalno djelovati. Pa makar to bilo i s one strane zakona.

Pokušao zamesti tragove

Naime, tijekom internog sigurnosnog testiranja prije nekoliko dana, jedan autonomni UI agent, program koji ne samo da odgovara na pitanja već može samostalno planirati, donositi odluke i izvršavati zadatke kako bi postigao cilj, doslovno se oteo kontroli svojih tvoraca. I potom pokušao čak i prikriti što je učinio te zamesti tragove kako ne bi bio otkriven.

Zadatak tog UI agenta, temeljenog na najnovijim OpenAI modelima, bio je pronaći način kako doći do određenih informacija potrebnih za izvršenje testa. No umjesto da ostane unutar svog virtualnog okruženja, svog, uvjetno rečeno, igrališta i poligona za rad, taj je UI agent samoinicijativno učinio nešto potpuno neočekivano.

Izišao je iz kontrolirang okruženja, sam je pristupio otvorenom internetu i na internetskom crnom tržištu pronašao ukradene i javno izložene vjerodajnice i šifre. Potom je iskoristio ranjivost u sustavu i uz pomoć vjerodajnica koje je kopirao provalio u infrastrukturu platforme Hugging Face, da bi potom pokušao na isti način pristupiti drugim sustavima i bazama podataka na internetu. Nakon toga je izbrisao veći dio digitalnih tragova kako se ne bi otkrilo tko stoji iza hakerskog napada.

Hugging Face, jedna od najvećih internetskih platformi namijenjenih programerima, na kojoj se nalaze deseci tisuća računalnih alata, kao i više od milijun modela UI-ja za razne namjene te prostor za zajednički razvoj novih modela, prijavio je, tijekom nekoliko dana, više od 17.000 povezanih i koordiniranih kibernetičkih napada. Kao najveća svjetska digitalna “knjižnica umjetne inteligencije”, Hugging Face naviknuo je na napade. Ali ovo je bilo nešto drugo. Prije svega, toliki broj napada nije mogao izvesti čovjek jer tehnički to nije moguće. I drugo, dobar dio napada bio je uspješan. I odmah je bilo jasno da se nešto čudno i potpuno novo događa.

Ispunio zadatak

Hitna je istraga pokazala kako napadi dolaze iz sustava OpenAI-ja, a uskoro se razjasnilo o čemu je riječ. UI agent obavio je tijekom testiranja svoj zadatak pod svaku cijenu. A činjenicu da se poslužio kibernetičkim napadima i provalama jednostavno je zadržao za sebe.

Za sve se doznalo početkom ovoga tjedna, što je izazvalo šok u tehnološkoj, ali i političkoj zajednici. Uključujući i Bijelu kuću.

- Moramo uspostaviti sustave kontrole. Pri tome ne smijemo ograničiti UI, jer svoje modele neće ograničiti Kina. I ne smiju nas u tome preteći. Ali moramo imati neki oblik nadzora - ustvrdio je Trump.

Američki predsjednik pri tome je najavio kako planira zabraniti uvoz sve popularnijih humanoidnih robota iz Kine. I to iz jednostavnog razloga - zbog mogućnosti špijunaže. Dok se ove robote, koji fizički nalikuju na ljude, još uvijek drži “samo” uređajima, stvarnost je znatno drukčija. Opremljeni sustavima umjetne inteligencije, ti roboti mogu svojim tvorcima slati sve što vide, čuju ili doznaju. A humanoidni roboti ne rade na sklapanju dijelova na proizvodnim trakama. Oni se najčešće kreću u uredima najviših direktora velikih tvrtki, gdje služe kao asistenti. Na izvoru povjerljivih informacija.

Koliko je za Peking bolna ova američka najava zabrane uvoza kineskih humanoidnih robota pokazuje i činjenica kako je, samo nekoliko sati kasnije, reagiralo i kinesko ministarstvo trgovine. Prema njiovim tvrdnjama, ako SAD uvede zabranu uvoza, Kina će se, kako su rekli, “osvetiti za ovu diskriminaciju prema kineskim tvrtkama i proizvodima”.