L'industria globale dell'intelligenza artificiale è carente di sicurezza, avverte un think tank

Il rapporto, pubblicato martedì, valuta le pratiche di sicurezza di nove grandi aziende di intelligenza artificiale e rileva che nessuna soddisfa gli elevati standard nell'affrontare le potenziali minacce esistenti poste dai sistemi avanzati di intelligenza artificiale.

Secondo il rapporto, il processo di valutazione ha coinvolto sette ricercatori ed esperti di governance che hanno valutato le aziende in base a sei categorie: valutazione del rischio, danni correnti, quadri di sicurezza, sicurezza esistenziale, governance e responsabilità e condivisione delle informazioni. Ogni azienda è stata valutata su questi criteri utilizzando dati disponibili pubblicamente e risposte alle indagini del think tank. Ciò indica che anche l'entità più performante ha ancora notevoli possibilità di miglioramento nel garantire la sicurezza dell'IA. Tra le aziende esaminate, Meta ha migliorato la sua posizione di due posizioni al quarto posto, mentre xAI è scesa di tre posizioni al settimo posto.

Mistral, un concorrente relativamente nuovo nella lista, ha espresso disaccordo con la metodologia utilizzata nel rapporto, affermando che il suo approccio allo sviluppo di modelli di IA open source non si allinea bene con il quadro di valutazione. A differenza di molti dei suoi concorrenti, Mistral consente agli utenti di scaricare e modificare liberamente i suoi modelli di IA, mentre aziende come Anthropic, OpenAI e Google DeepMind sviluppano modelli chiusi che non sono accessibili al pubblico.

Max Tegmark, professore del MIT e presidente del Future of Life Institute, ha espresso la sua delusione per il basso ranking di Mistral, sottolineando che i paesi europei sono stati leader nella sicurezza dell'IA. Ha sottolineato che l'istituto ha fatto più tentativi di contattare Mistral per feedback ma non ha ricevuto risposta. Allo stesso modo, Alibaba, xAI e DeepSeek sono stati anche irraggiungibili durante il periodo di indagine. ai hanno prodotto modelli aperti e sono ancora finiti nella metà inferiore della classifica. La relazione ha anche sollevato preoccupazioni sull'inversione delle politiche da parte di alcune aziende per quanto riguarda l'uso dell'IA in applicazioni militari.

Anthropic, ad esempio, è stata criticata per essere impegnata in collaborazioni militari discutibili nonostante abbia precedentemente vietato tali usi. Il governo degli Stati Uniti ha utilizzato la tecnologia di Anthropic in operazioni militari in Venezuela e in Iran nell'ultimo anno. Tuttavia, il Pentagono ha recentemente imposto un divieto su Anthropic a causa di disaccordi sui protocolli di sicurezza dell'IA. La restrizione è stata temporaneamente revocata dall'amministrazione Trump alla fine di giugno a seguito della pressione di vari soggetti interessati.

Il Future of Life Institute ha evidenziato che tutte e nove le aziende valutate non sono riuscite ad affrontare adeguatamente i rischi esistenziali associati al perseguimento dell'intelligenza artificiale generale (AGI) - un livello di AI in grado di svolgere qualsiasi compito intellettuale che un essere umano può.

Queste preoccupazioni sono diventate più pressanti man mano che le aziende continuano a spingere i confini delle capacità dell'IA. Per esempio, Anthropic ha recentemente svelato il suo modello più potente finora, chiamato Mythos, che inizialmente era limitato a un gruppo selezionato di organizzazioni di fiducia a causa del suo potenziale di esporre le vulnerabilità della sicurezza informatica. Il governo degli Stati Uniti è intervenuto a giugno, bloccando il rilascio di Mythos a entità straniere per motivi di sicurezza nazionale. Il divieto è stato successivamente revocato dall'amministrazione Trump, consentendo ad Anthropic di procedere con l'ulteriore sviluppo e distribuzione del modello.

Mentre il dibattito sulla sicurezza dell'intelligenza artificiale continua a prendere slancio, la relazione sottolinea l'urgente necessità di una più forte collaborazione tra governi, enti del settore privato e istituti di ricerca per stabilire solide salvaguardie contro le minacce emergenti.