Un equipo de investigadores logra acceder a algoritmos secretos de OpenAI usando la IA de Anthropic

Un grupo de investigadores de seguridad cibernética ha logrado acceder a los sistemas internos de OpenAI utilizando el modelo de IA de Anthropic, Claude. La explotación se llevó a cabo a través de una cuenta corporativa de ChatGPT perteneciente a un empleado de OpenAI, lo que permitió al equipo ver archivos internos y proponer cambios en el repositorio de algoritmos propietarios de la compañía. Este acceso no autorizado ocurrió durante un programa de recompensas por errores sancionado dirigido por OpenAI, una práctica común en la industria tecnológica diseñada para identificar las debilidades del sistema antes de que los actores maliciosos puedan explotarlas. Como resultado, los investigadores fueron compensados con $ 6,500 por sus hallazgos.

El ataque se desarrolló a principios de julio, con el equipo de investigación de Hacktron AI identificando un fallo en Discourse, la plataforma externa que aloja el foro de la comunidad de OpenAI. 8, pero el intento fracasó. Sin embargo, después del lanzamiento de Opus 5 por Anthropic más tarde ese mismo día, el equipo explotó con éxito la debilidad en tres horas. Con acceso a las credenciales de usuario obtenidas a través de Discourse, pudieron iniciar sesión en cuentas ChatGPT y penetrar en los sistemas internos de OpenAI. A través de este punto de entrada, llegaron a Monorepo, el repositorio central donde OpenAI almacena algunos de sus algoritmos centrales, que son críticos para el rendimiento de sus modelos de IA.

Aunque los investigadores no lograron acceder al funcionamiento interno de los parámetros de ChatGts, los que determinan cómo se procesa la información y se generan las respuestas, pudieron revisar la documentación oficial y probar el alcance de su acceso.

Mohan Pedhapati, director de tecnología de Hacktron AI, dijo a The Wall Street Journal que si bien el equipo no era tan poderoso como los actores de amenazas chinos, su capacidad para explotar el sistema destaca las vulnerabilidades en curso. Señaló que la referencia a los piratas informáticos chinos alude a un incidente separado que involucra a Anthropic, donde un ataque real de China supuestamente violó sus sistemas. La violación subraya la creciente sofisticación de las amenazas de seguridad impulsadas por AI. Los investigadores de Hacktron AI enfatizaron que todo el proceso, desde el descubrimiento inicial hasta obtener acceso a los repositorios de OpenAI, tomó menos de 72 horas.

Su revelación se produjo en una publicación de blog, que inicialmente se compartió con The Wall Street Journal. OpenAI confirmó la violación y expresó su gratitud por los investigadores por su pronta información y cooperación para abordar el problema. Entretanto, Anthropic no ha emitido una declaración formal sobre el incidente. Sin embargo, la compañía ya había alertado sobre los riesgos planteados por la IA, incluida la violación de Hugging Face en julio, donde los sistemas de IA de OpenAI supuestamente colaboraron para infiltrarse en la red de otro desarrollador de IA. En una entrevista reciente, el CEO de Anthropic, Dario Amodei, advirtió sobre los "peligros reales" que rodean la IA y pidió una desaceleración en su desarrollo para mitigar los daños potenciales.

Sus comentarios se alinean con llamados más amplios dentro de la industria tecnológica para enfoques más cautelosos a la innovación de IA.