Laboratoriji Frontier AI še vedno ne povedo, kako so lahko zadržali model.

Frontier AI laboratoriji molčijo o tem, kako bi obdržali neurejen model, kljub naraščajoči zaskrbljenosti zaradi tveganj, ki jih predstavljajo vse bolj avtonomni sistemi AI.

Poročilo je ocenilo pet vodilnih raziskovalnih organizacij za umetno inteligenco, Anthropic, Google, OpenAI, Meta in xAI, na podlagi javno dostopnih informacij o njihovih varnostnih protokolih. Guidelight, organizacija, ki se je osredotočila na spodbujanje odgovornega razvoja umetne inteligence, je ocenila vsako laboratorij po več merilih, vključno z notranjimi mehanizmi spremljanja, postopki za zaustavitev problematičnega vedenja, revizijami tretjih oseb in posebnimi strategijami za obravnavo nenadzorovane dejavnosti umetne inteligence.

Čeprav je veliko podjetij načrtovalo testne procese, namenjene identifikaciji škodljivega vedenja pred uvedbo, je veliko manj javne razprave o tem, kaj se zgodi, ko je model že v uporabi in se potencialno nepredvidljivo obnaša.

Adler je poudaril, da je treba v robustnem načrtu za obvladovanje vključiti vnaprej opredeljena dejanja, kot je preklic določenih dovoljenj, omejitev delovanja modela na določene uporabnike ali naloge in določitev jasnih pragov za to, kdaj bi bilo treba sistem v celoti izključiti. "Kadarkoli modeli opravljajo delo v imenu podjetja, bi moralo podjetje imeti nekaj skele okoli sebe, da bi lahko ugotovilo, kaj ta AI počne", je pojasnil Adler. "V poročilu je poudarjeno, da so sedanje strategije za obvladovanje v veliki meri prepuščene posameznim podjetjem, z redkimi standardiziranimi pristopi ali javno dostopnimi okviri.

Medtem ko so nekatera podjetja začela razpravljati o širših varnostnih pobudah, podrobnosti o odzivu na izredne razmere ostajajo nejasne. Googlejev predstavnik je priznal, da poročilo Guidelight ne odraža polnega obsega notranjih varnostnih ukrepov podjetja, čeprav je podjetje zavrnilo, da bi neposredno komentiralo, ali vzdržuje nerazkrite protokole za zadrževanje.

Ker se agentska umetna inteligenca bolj integrira v korporativne sisteme, odsotnost preglednih načrtov za obvladovanje predstavlja etične in praktične izzive.