CroatiaUn nuovo metodo è stato sviluppato da ricercatori del MIT in collaborazione con l'organizzazione no-profit Thorn per identificare modelli di intelligenza artificiale in grado di generare contenuti illegali come discorsi di odio e materiale di abuso sessuale di minori, senza creare alcun contenuto illegale durante i test. La tecnica esamina i meccanismi interni dei modelli di intelligenza artificiale per determinare se sono specializzati nella produzione di output dannosi, raggiungendo il 100% di accuratezza nell'identificare tali modelli durante i test. Questo approccio consente alle piattaforme di rilevare, etichettare e rimuovere le variazioni di intelligenza artificiale pericolose prima che si diffondano ampiamente. I ricercatori sottolineano la scalabilità e l'efficacia in termini di costi della loro soluzione, che affronta una lacuna critica nella sicurezza dell'intelligenza artificiale.
Lettura del bias (Centro): L'articolo discute di uno sviluppo tecnologico relativo alla sicurezza dell'IA e non presenta alcun punto di vista politico, pregiudizi o implicazioni politiche controverse, ma si concentra sull'innovazione tecnica e sulla sua applicazione per rilevare modelli di IA dannosi.
