Izključno: Googleov Hassabis poziva k globalnemu nadzorniku AI pod vodstvom ZDA

Demis Hassabis, soustanovitelj in izvršni direktor Googla DeepMind, je pozval ZDA, naj vodijo ustvarjanje globalnega nadzornika umetne inteligence. V osebnem manifestu z naslovom "Okvir za mejno umetno inteligenco in zore novega veka", objavljenem v torek, Hassabis navaja predlog za regulativni organ, ki bi nadzoroval razvoj in uporabo najbolj naprednih sistemov umetne inteligence po vsem svetu.

Hassabis poudarja, da največja nevarnost ne izvira iz modelov odprtega vira, temveč iz močnejših lastniških modelov, ki jih razvijajo vodilni laboratoriji. Hassabis je več mesecev delal za prizoriščem, da bi ustvaril podporo za to pobudo.

Trampova administracija, ki je predhodno zagovarjala pristop brez posredovanja pri regulaciji umetne inteligence, se zdi, da je pokazala odprtost za idejo, še posebej po nedavnih dogodkih, ki vključujejo modele Antropics. Predlagani regulativni organ bi deloval podobno kot Regulatorna agencija za finančno industrijo (FINRA), samoregulativna organizacija v finančnem sektorju. V skladu s Hassabisovim načrtom bi vodilni raziskovalni laboratoriji za umetno inteligenco morali predložiti svoje najnaprednejše modele za oceno varnosti do 30 dni pred javno objavo. Ta proces bi vključeval strogo testiranje morebitnih nevarnosti, povezanih s kibernetsko varnostjo, biološkimi grožnjami in zavajajočimi zmogljivostmi.

Ko bodo postopki testiranja ocenjeni kot učinkoviti in zanesljivi, bi lahko telo prešlo v formalni regulativni subjekt. Struktura predlaganega nadzornega psa bi vključevala večinsko neodvisen odbor, ki bi ga sestavljali vrhunski tehnični strokovnjaki, vključno z prejemniki nagrade Turing.

Predlog velja za vse modele umetne inteligence, razvrščene kot "mejne razrede", ne glede na njihovo državo porekla ali ali so odprtokodni ali lastniški. Hassabis predlaga, da bi bila merila za razvrščanje redno pregledana in prilagojena, saj se tehnološke zmogljivosti še naprej razvijajo. Ameriška vlada je poudarila nujnost takšnih ukrepov. Trumpova administracija je v zadnjem mesecu nenadoma ustavila modele Anthropic Mythos in Fable, kar je bilo opozorilo za mnoge v skupnosti umetne inteligence. Anthropic se je soočil z nepričakovanim ukazom za nadzor izvoza, ki je učinkovito zamrznil svoje najmočnejše modele.

Po skoraj treh tednih pogajanj so bili modeli končno izpuščeni, čeprav brez jasnih smernic ali protokolov. 6 model za preverjene vladne partnerje med začetno uvedbo. Model je bil kasneje na voljo javnosti po obsežnih razpravah z ministrstvom za trgovino.

Med vodilnimi raziskovalci umetne inteligence obstaja široko soglasje, da je potrebna močnejša regulacija, vendar ostajajo razlike glede tega, kdo bi moral imeti končni organ pri oblikovanju teh politik.