I laboratori di intelligenza artificiale di Frontier non ci dicono ancora come possono contenere un modello disonesto.

Secondo un nuovo rapporto di Guidelight AI Standards, nessuno dei principali laboratori di intelligenza artificiale ha pubblicato piani di risposta dettagliati al contenimento, piani che delineano i passi da intraprendere se un sistema di intelligenza artificiale inizia ad agire al di fuori del controllo umano.

Il rapporto ha valutato cinque importanti organizzazioni di ricerca sull'IA, Anthropic, Google, OpenAI, Meta e xAI, in base alle informazioni pubblicamente disponibili sui loro protocolli di sicurezza. Guidelight, un'organizzazione focalizzata sulla promozione dello sviluppo responsabile dell'IA, ha valutato ogni laboratorio attraverso diversi criteri, tra cui meccanismi di monitoraggio interno, procedure per fermare comportamenti problematici, audit di terze parti e strategie di contingenza specifiche per affrontare l'attività di IA incontrollata. OpenAI ha ricevuto il punteggio più alto tra il gruppo, mentre Meta e Anthropic sono stati valutati i più bassi. I risultati sottolineano un divario critico nell'approccio dell'industria alla sicurezza dell'IA.

Sebbene molte aziende abbiano delineato processi di test progettati per identificare comportamenti dannosi prima della distribuzione, c'è significativamente meno discussione pubblica su ciò che accade una volta che un modello è già in funzione e potenzialmente si comporta in modo imprevedibile. Questa omissione solleva domande su come preparate queste aziende sono a gestire scenari del mondo reale che coinvolgono sistemi di IA che potrebbero agire oltre i parametri previsti. Steven Adler, capo scienziato di Guidelight ed ex ricercatore di sicurezza di OpenAI, ha espresso sorpresa per le limitate informazioni disponibili.

Adler ha sottolineato che un piano di contenimento robusto deve includere azioni predefinite come la revoca di determinate autorizzazioni, la limitazione delle operazioni del modello a utenti o attività specificati e la definizione di soglie chiare per il momento in cui il sistema dovrebbe essere interamente disattivato. "Ogni volta che i modelli svolgono un lavoro per conto dell'azienda, l'azienda dovrebbe avere un'impalcatura attorno a sé per essere in grado di dire cosa sta facendo l'IA", ha spiegato Adler. "La relazione evidenzia che le attuali strategie di contenimento sono in gran parte lasciate alle singole aziende, con pochi approcci standardizzati o quadri accessibili al pubblico.

Mentre alcune aziende hanno iniziato a discutere iniziative di sicurezza più ampie, le specifiche della risposta alle emergenze rimangono poco chiare. Un portavoce di Google ha riconosciuto che il rapporto Guidelight non riflette la piena portata delle misure di sicurezza interne dell'azienda, anche se l'azienda ha rifiutato di commentare direttamente se mantiene protocolli di contenimento non divulgati.

Con l'integrazione dell'intelligenza artificiale in sistemi aziendali, l'assenza di piani di contenimento trasparenti pone sfide sia etiche che pratiche. I regolatori in stati come la California e New York stanno iniziando a richiedere maggiori informazioni dagli sviluppatori di IA, segnalando un cambiamento verso una maggiore sorveglianza. Tuttavia, senza linee guida chiare o standard condivisi, la responsabilità di garantire la sicurezza continua a ricadere principalmente sulle singole aziende, sollevando preoccupazioni sulla responsabilità e la coerenza in tutto il campo.