CroatiaUn nuevo método ha sido desarrollado por investigadores del MIT en colaboración con la organización sin fines de lucro Thorn para identificar modelos de IA capaces de generar contenido ilegal como discurso de odio y material de abuso sexual infantil, sin crear ningún contenido ilegal durante las pruebas. La técnica examina los mecanismos internos de los modelos de IA para determinar si están especializados en producir salidas dañinas, logrando una precisión del 100% en la identificación de dichos modelos durante las pruebas. Este enfoque permite a las plataformas detectar, etiquetar y eliminar variaciones peligrosas de IA antes de que se propaguen ampliamente. Los investigadores enfatizan la escalabilidad y la rentabilidad de su solución, que aborda una brecha crítica en la seguridad de la IA.
Lectura del sesgo (Centro): El artículo analiza un desarrollo tecnológico relacionado con la seguridad de la IA y no presenta ningún punto de vista político, sesgo o implicaciones políticas controvertidas. Se centra en la innovación técnica y su aplicación para detectar modelos de IA dañinos.
