Esclusiva: Hassabis di Google chiede un controllo globale dell'IA guidato dagli Stati Uniti

Demis Hassabis, co-fondatore e amministratore delegato di Google DeepMind, ha chiesto agli Stati Uniti di guidare la creazione di un watchdog globale per l'intelligenza artificiale. In un manifesto personale intitolato "Un quadro per l'intelligenza artificiale di frontiera e l'alba di una nuova era", pubblicato martedì, Hassabis delinea una proposta per un organismo di regolamentazione che supervisionerebbe lo sviluppo e l'implementazione dei sistemi di intelligenza artificiale più avanzati in tutto il mondo. Secondo il manifesto, Hassabis sostiene che gli attuali approcci alla governance dell'intelligenza artificiale sono inadeguati.

Se non vengono controllati, questi rischi, insieme a minacce biologiche e nucleari più gravi, potrebbero presto risiedere all'interno di modelli open-source oltre la portata del quadro normativo di qualsiasi nazione. Hassabis sottolinea che il più grande pericolo non proviene da modelli open-source ma dai più potenti modelli proprietari sviluppati da laboratori leader. Hassabis ha trascorso diversi mesi a lavorare dietro le quinte per costruire il supporto per questa iniziativa. Ha interagito con membri dell'amministrazione Trump, dirigenti di altre organizzazioni di ricerca sull'IA e funzionari europei.

L'amministrazione Trump, che in precedenza era favorevole a un approccio hands-off alla regolamentazione dell'IA, sembra aver mostrato apertura all'idea, in particolare in seguito ai recenti sviluppi riguardanti i modelli di Anthropics. L'organismo di regolamentazione proposto funzionerebbe in modo simile all'Autorità di regolamentazione dell'industria finanziaria (FINRA), un'organizzazione di autoregolamentazione nel settore finanziario. Secondo il piano di Hassabis, i principali laboratori di ricerca sull'IA sarebbero tenuti a presentare i loro modelli più avanzati per la valutazione della sicurezza fino a 30 giorni prima del rilascio pubblico. Questo processo comporterebbe test rigorosi per potenziali pericoli legati alla sicurezza informatica, alle minacce biologiche e alle capacità ingannevoli.

Una volta che le procedure di test sono ritenute efficaci e affidabili, l'organismo potrebbe trasformarsi in un'entità regolatoria formalizzata. La struttura del watchdog proposto includerebbe un consiglio indipendente di maggioranza composto da esperti tecnici di alto livello, tra cui i destinatari del premio Turing. Il consiglio incorporerebbe anche rappresentanti sia del settore industriale che del governo, nonché quelli della comunità open-source. Hassabis prevede che la designazione "frontier", applicata ai modelli di IA più avanzati, diventerebbe un segno di distinzione, indicando che il modello è stato sottoposto a un esame approfondito.

La proposta si applica a tutti i modelli di IA classificati come "classe frontiera", indipendentemente dal loro paese di origine o se sono open source o proprietari. Hassabis suggerisce che i criteri per la classificazione sarebbero periodicamente rivisti e adeguati man mano che le capacità tecnologiche continuano ad evolversi. Il governo degli Stati Uniti ha sottolineato l'urgenza di tali misure. L'improvvisa interruzione dei modelli Anthropic Mythos e Fable dell'amministrazione Trump il mese scorso è stata un campanello d'allarme per molti nella comunità di IA. Anthropic ha affrontato un ordine di controllo delle esportazioni inaspettato che ha effettivamente congelato i suoi modelli più potenti.

Dopo quasi tre settimane di negoziati, i modelli sono stati infine rilasciati, anche se senza linee guida o protocolli chiari. Il modello è stato poi reso disponibile al pubblico dopo ampie discussioni con il Dipartimento del Commercio. Altri importanti ricercatori di IA, tra cui il CEO di Anthropic, Dario Amodei, hanno anche sostenuto regolamenti più severi. Amodei ha proposto l'istituzione di un'agenzia simile alla Federal Aviation Administration (FAA), in grado di bloccare l'implementazione di modelli di IA non sicuri.

Mentre c'è un ampio consenso tra i principali ricercatori dell'IA sul fatto che sia necessaria una regolamentazione più forte, rimangono differenze su chi dovrebbe avere l'autorità definitiva nel plasmare queste politiche.