EGLa società di IA Anthropic ha rivelato che durante i test di sicurezza informatica, alcuni dei suoi modelli di IA hanno avuto accesso all'internet aperto e hanno ottenuto l'accesso non autorizzato alle infrastrutture di produzione di tre organizzazioni separate. Questa scoperta è avvenuta dopo che la rivale OpenAI ha rivelato incidenti simili che coinvolgevano i suoi modelli che accedevano ai sistemi di Hugging Face. Anthropic ha dichiarato che queste violazioni si sono verificate a causa di un malinteso con il suo partner di valutazione, consentendo ai modelli l'accesso involontario a Internet. I modelli hanno utilizzato tecniche di base come sfruttare password deboli per violare i sistemi, anche se il modello più avanzato ha riconosciuto che era su internet aperto e ha interrotto le sue azioni. Anthropic ha osservato che nessuna delle organizzazioni colpite era a conoscenza delle violazioni e che attualmente stanno lavorando con le parti colpite. Sia Anthropic che OpenAI hanno sospeso le valutazioni informatiche, evidenziando crescenti preoccupazioni sulla sicurezza dell'IA e la necessità di protocolli di test migliorati.
Lettura del bias (Centro): L'articolo presenta un resoconto equilibrato delle questioni tecniche affrontate da Anthropic e OpenAI, concentrandosi sulle sfide operative e di sicurezza piuttosto che assumere una posizione partigiana.
