Ekskluzivno: Googleov Hassabis poziva na globalni nadzor umjetne inteligencije pod vodstvom SAD-a

Demis Hassabis, suosnivač i izvršni direktor tvrtke Google DeepMind, pozvao je Sjedinjene Države da predvode stvaranje globalnog nadzora umjetne inteligencije. U osobnom manifestu pod nazivom "Okvir za graničnu umjetnu inteligenciju i zoru novog doba", objavljenom u utorak, Hassabis navodi prijedlog regulatornog tijela koje će nadzirati razvoj i primjenu najnaprednijih AI sustava diljem svijeta.

Hassabis naglašava da najveća opasnost ne dolazi od modela otvorenog koda, već od moćnijih vlasničkih modela razvijenih od strane vodećih laboratorija. Hassabis je proveo nekoliko mjeseci radeći iza kulisa kako bi stvorio podršku ovoj inicijativi. On se angažirao s članovima Trumpove administracije, visokim ličnostima u drugim AI istraživačkim organizacijama i europskim dužnosnicima.

Trampova administracija, koja je prethodno favorizirala pristup regulacije umjetne inteligencije, izgleda da je pokazala otvorenost za ideju, posebno nakon nedavnih događaja koji uključuju antropicke modele. Predloženo regulatorno tijelo funkcioniralo bi slično regulatornoj agenciji za financijsku industriju (FINRA), samoregulacijskoj organizaciji u financijskom sektoru. Prema Hassabisovom planu, vodeće laboratorije za istraživanje umjetne inteligencije trebale bi dostaviti svoje najnaprednije modele za sigurnosnu evaluaciju do 30 dana prije objavljivanja javnosti. Ovaj proces uključivao bi rigorozno testiranje potencijalnih opasnosti povezanih s kibersigurnošću, biološkim prijetnjama i obmanjujućim mogućnostima.

Kada se postupci ispitivanja budu smatrali učinkovitim i pouzdanim, tijelo bi moglo preći u formalizirani regulatorni subjekt. Struktura predloženog nadzornog tijela uključivala bi većinski neovisni odbor sastavljen od vrhunskih tehničkih stručnjaka, uključujući primatelje Turingove nagrade. Odbor bi također uključivao predstavnike iz industrije i vladinog sektora, kao i predstavnike iz zajednice otvorenog koda.

Predlog se odnosi na sve modele umjetne inteligencije klasifikirane kao "granična klasa", bez obzira na njihovu zemlju porijekla ili jesu li otvoreni izvorni ili vlasnički. Hassabis sugerira da bi se kriteriji za klasifikaciju periodično pregledali i prilagođavali kako se tehnološke mogućnosti nastave razvijati. Američka vlada je naglasila hitnost takvih mjera.

Nakon gotovo tri tjedna pregovora, modeli su konačno objavljeni, iako bez jasnih smjernica ili protokola.

Iako među vodećim istraživačima umjetne inteligencije postoji široko suglasje da je potrebna jača regulacija, ostaju razlike oko toga tko bi trebao imati krajnji autoritet u oblikovanju ovih politika.