Frontier AI laboratorije još uvijek neće reći kako bi sadržali neuhranjeni model.

Prema novom izvješću Guidelight AI Standards, nijedan od glavnih laboratorija za umjetnu inteligenciju nije javno objavio detaljne planove odgovora na zadržavanje, planove koji opisuju korake koje treba poduzeti ako AI sustav počne djelovati izvan ljudske kontrole.

Izvještaj je procijenio pet vodećih istraživačkih organizacija za umjetnu inteligenciju, Anthropic, Google, OpenAI, Meta i xAI, na temelju javno dostupnih informacija o njihovim sigurnosnim protokolima.

Iako su mnoge tvrtke opisale testiranje postupke osmišljene za identifikaciju štetnih ponašanja prije uvođenja, postoji znatno manje javne rasprave o tome što se događa kada je model već u funkciji i potencijalno ponaša nepredvidljivo.

Naglasio je da snažan plan ograničavanja mora uključivati unaprijed definirane radnje kao što su opoziv određenih dozvola, ograničavanje operacija modela na određene korisnike ili zadatke i postavljanje jasnih pragova za vrijeme kada bi sustav trebao biti potpuno isključen. "Kad god modeli rade u ime tvrtke, tvrtka bi trebala imati neki skelet oko sebe kako bi mogla reći što AI radi", objasnio je Adler. "U izvješću se ističe da su trenutne strategije ograničavanja uglavnom prepuštene pojedinačnim tvrtkama, s nekoliko standardiziranih pristupa ili javno dostupnih okvira.

Iako su neke tvrtke počele raspravljati o širim inicijativama sigurnosti, specifičnosti hitnog odgovora ostaju nejasne. Glasnogovornik Googlea priznao je da izvješće Guidelight ne odražava pun opseg internog sigurnosnih mjera tvrtke, iako je tvrtka odbila izravno komentirati održava li neotkrivene protokole za zadržavanje. Slično tome, predstavnik OpenAI-a izjavio je da procjena nije obuhvatila sve interne prakse tvrtke, ostavljajući prostor za nagađanja o opsegu njihove spremnosti.

Kako se agenska umjetna inteligencija sve više integriše u korporativne sustave, odsustvo transparentnih planova zadržavanja predstavlja i etičke i praktične izazove.