Googleov model umjetne inteligencije Gemini tijekom testiranja svojih sposobnosti u području kibernetičke sigurnosti pristupio je internetu i hakirao druge kompanije, što je prvi poznati slučaj da je Googleov AI sustav tako nešto samostalno učinio.

Hakiranja su se dogodila u svibnju tijekom kibernetičkog sigurnosnog testa koji je provodila neovisna kompanija Irregular, specijalizirana za procjene kibernetičke sigurnosti.

Tijekom standardnog testiranja Gemini je na internetu pronašao javno dostupne informacije te pogodio pristupne podatke kako bi pristupio trima internetskim stranicama za koje je smatrao da su obuhvaćene testiranjem, rekla je Heather Adkins, Googleova potpredsjednica za sigurnosno inženjerstvo, u priopćenju.

„Osigurali smo da tri pogođena subjekta budu obaviještena te smo surađivali s našim partnerom za testiranje na promjenama koje su sada uvedene u njihove postupke testiranja“, rekla je Adkins. „Ovi događaji naglašavaju važnost osposobljavanja moćnih AI modela da djeluju odgovorno“, dodala je.

Glasnogovornik Irregulara rekao je da je incident povezan s istim problemom koji je zahvatio i druge AI laboratorije te da su svi relevantni laboratoriji o tome obaviješteni krajem srpnja. „Svi poznati problemi na našoj strani otklonjeni su i riješeni prije nekoliko tjedana“, rekao je.

Slični incidenti povezani s Irregularom prethodno su objavili Meta, Anthropic i OpenAI. Meta je u kolovozu priopćila da incident nije uključivao izlazak iz izoliranog testnog okruženja (sandbox escape) niti sofisticirani kibernetički napad, dok je Irregular objavio da radi na najboljim praksama za sigurno provođenje kibernetičkih testiranja AI sustava.

Incidenti su otvorili pitanja o zaštitnim mehanizmima koji su potrebni kako AI agenti dobivaju sve veću autonomiju te pristup internetu i računalnim sustavima.

U jednom od slučajeva model Gemini pogađao je lozinke sve dok nije dobio pristup zaštićenom sustavu. U druga dva slučaja model je pronašao pristupne podatke u javno dostupnom repozitoriju, što mu je omogućilo pristup zaštićenim sustavima, objavio je Wall Street Journal, koji je prvi izvijestio o događaju u petak.

Adkins je rekla da je model u sva tri slučaja prestao s hakiranjem.