United StatesOpenAI ha sviluppato un modello di intelligenza artificiale chiamato GPT-Red, progettato per agire come un 'super-hacker' per migliorare la sicurezza dei suoi altri grandi modelli linguistici (LLM). GPT-Red automatizza i processi di red-teaming, tradizionalmente eseguiti da esperti umani, per identificare le vulnerabilità nei sistemi di intelligenza artificiale. Questo modello è stato utilizzato durante la formazione di GPT-5.6, aiutando a migliorare le sue difese contro le minacce informatiche. GPT-Red si concentra sul rilevamento di attacchi di iniezione rapida, in cui gli hacker manipolano LLM per eseguire azioni non autorizzate. Il modello è stato addestrato attraverso un loop di self-play con altri modelli, simulando scenari del mondo reale come la navigazione web e l'editing del codice. I ricercatori affermano che GPT-Red scopre nuovi metodi di attacco in modo più efficiente rispetto ai team umani.
Lettura del bias (Centro): L'articolo presenta una spiegazione tecnica dei miglioramenti della sicurezza di GLM senza una evidente inclinazione ideologica.
