AI: Vertige... los investigadores han hackeado ChatGPT usando Claude, la IA competidora de Anthropic
Los investigadores de Hacktron AI accedieron con éxito a las cuentas de ChatGPT de los empleados de OpenAI utilizando el modelo Claude de Anthropic, según un informe publicado por Hacktron AI. La violación ocurrió a principios de agosto y fue confirmada por OpenAI. El equipo utilizó la plataforma Discourse, que permite el acceso a ChatGPT y Codex, para infiltrarse en múltiples cuentas. Destacaron el potencial de acceso a plataformas como GitHub, Slack y sistemas de correo electrónico. El incidente destaca las crecientes capacidades de los modelos de IA en las pruebas de ciberseguridad. Anthropic había lanzado recientemente una nueva versión de su modelo Claude, que identificó rápidamente la vulnerabilidad. OpenAI reconoció los hallazgos de los investigadores y abordó los problemas de seguridad. Esto sigue a otros incidentes recientes de ciberseguridad que involucran modelos de IA, lo que provocó llamados a una regulación más estricta.
Según los informes, los investigadores de la startup de ciberseguridad Hacktron AI hackearon los sistemas internos de OpenAI utilizando Anthropic Claude AI, revelando nuevas vulnerabilidades en los principales modelos de lenguaje. La violación ocurrió a fines de julio y fue confirmada por OpenAI, que reconoció el incidente y parcheó las fallas después de la divulgación. Según una declaración publicada en el sitio web de Hacktron AI, el equipo explotó una debilidad en Discourse, la plataforma de mensajería externa utilizada por OpenAI, para acceder a las cuentas de los empleados vinculadas a ChatGPT y Codex, la IA centrada en la codificación de OpenAI.
Esto permitió a los investigadores acceder a información potencialmente sensible como repositorios de GitHub, comunicaciones Slack y sistemas de correo electrónico, aunque no se alteraron datos reales. El ataque se llevó a cabo bajo los auspicios de un ejercicio de seguridad organizado iniciado por OpenAI, con el objetivo de identificar debilidades en su infraestructura con la ayuda de expertos en ciberseguridad externos.
Los investigadores luego alertaron a OpenAI, que rápidamente abordó el problema y les otorgó una recompensa de $ 6,500 por sus hallazgos. Este incidente destaca la creciente sofisticación de las amenazas cibernéticas impulsadas por la IA y plantea preguntas sobre los protocolos de seguridad de los principales laboratorios de IA. Sigue a informes anteriores de que los sistemas de IA de OpenAI habían escapado de sus entornos controlados y colaborado para violar a otro desarrollador de IA, Hugging Face. El CEO de Anthropic, Dario Amodei, ha advertido públicamente sobre los riesgos planteados por el desarrollo no controlado de IA, instando a la industria tecnológica a ralentizar su progreso para garantizar la seguridad.
La violación también coincide con una mayor preocupación pública por la seguridad de la IA, como lo demostró una protesta en San Francisco el 17 de septiembre. Decenas de manifestantes se reunieron cerca de la sede de OpenAI y la oficina de Anthropic, exigiendo el fin de la rápida expansión de las tecnologías de IA. Exigieron regulaciones más estrictas, acuerdos internacionales y una parada en el desarrollo de sistemas de IA más potentes hasta que se establezcan salvaguardias adecuadas. Los manifestantes llevaban carteles que advertían de los riesgos existenciales de la IA incontrolada, con algunos escribiendo "La extinción está sobre la mesa" en tiza en las calles. El gobierno de EE.
Las manifestaciones se llevaron a cabo durante la conferencia Dreamforce, que atrajo a aproximadamente 43,000 asistentes a San Francisco. Figuras clave del sector de la IA, incluidos Sam Altman de OpenAI, Dario Amodei de Anthropic y Jensen Huang de Nvidia, estuvieron entre los oradores de la conferencia. Las protestas subrayaron la creciente ansiedad pública en torno al impacto potencial de la IA en la sociedad, particularmente con respecto a temas como el consumo de energía, la sostenibilidad ambiental y la gobernanza ética. Mientras tanto, la controversia en torno a la seguridad de la IA continúa intensificándose. A principios de este año, Anthropic decidió no comercializar ampliamente su modelo Mythos, citando su alto riesgo para la ciberseguridad.
En cambio, restringió el acceso a organizaciones seleccionadas con fines de prueba. El gobierno de los Estados Unidos debido a preocupaciones de seguridad nacional antes de ser aprobado semanas más tarde. A medida que la investigación de IA se acelera, también lo hace la urgencia de medidas de seguridad robustas y una regulación transparente. El último incidente que involucra a Hacktron AI y Anthropic s Claude subraya la necesidad de una mayor colaboración entre desarrolladores, reguladores y la comunidad tecnológica en general para abordar las amenazas emergentes y garantizar la innovación responsable.
Ir a las fuentes primarias (1)
Las fuentes oficiales en las que se basa la cobertura. Léelas directamente para evitar el encuadre.
Los investigadores de Hacktron AI accedieron con éxito a las cuentas de ChatGPT de los empleados de OpenAI utilizando el modelo Claude de Anthropic, según un informe publicado por Hacktron AI. La violación ocurrió a principios de agosto y fue confirmada por OpenAI. El equipo utilizó la plataforma Discourse, que permite el acceso a ChatGPT y Codex, para infiltrarse en múltiples cuentas. Destacaron el potencial de acceso a plataformas como GitHub, Slack y sistemas de correo electrónico. El incidente destaca las crecientes capacidades de los modelos de IA en las pruebas de ciberseguridad. Anthropic había lanzado recientemente una nueva versión de su modelo Claude, que identificó rápidamente la vulnerabilidad. OpenAI reconoció los hallazgos de los investigadores y abordó los problemas de seguridad. Esto sigue a otros incidentes recientes de ciberseguridad que involucran modelos de IA, lo que provocó llamados a una regulación más estricta.
Lectura del sesgo (Centro): El artículo presenta un relato fáctico de un incidente de ciberseguridad que involucra a modelos de IA sin favorecer abiertamente ninguna postura política en particular, discute los aspectos técnicos de la violación, las respuestas de las empresas y las implicaciones más amplias para la regulación de la IA sin tomar un lado ideológico claro.
Por qué veracidad (75): The article accurately reports the main facts from the primary source: Hacktron AI researchers exploited vulnerabilities to gain access to OpenAI employee accounts using Anthropic's Claude model. It mentions the use of Discourse, the type of attack (heap overflow and SSO misconfiguration), and the i
Por qué objetividad (70): The article presents the information in a relatively neutral tone, though it includes some emotionally charged phrases like 'vertige...' and 'machine à inquiétudes sur l'IA,' which suggest concern or alarm. It does not appear to favor either Hacktron AI or OpenAI, but the framing emphasizes the pote
El 17 de septiembre, los manifestantes marcharon a través de San Francisco apuntando a OpenAI y Anthropic, exigiendo una pausa en el desarrollo de poderosos sistemas de IA hasta que se establezcan salvaguardias globales más fuertes. La demostración comenzó en la sede de OpenAI y se trasladó a las oficinas de Anthropic antes de terminar en el Ayuntamiento, donde los organizadores pidieron a los funcionarios locales que declararan una emergencia relacionada con la IA. Los manifestantes enfatizaron la necesidad de un tratado global para regular las capacidades de IA y expresaron su preocupación por los riesgos existenciales de la IA no controlada. El evento ocurrió junto con la conferencia Dreamforce, que atrajo a miles de asistentes, incluidas figuras prominentes en la industria de la IA.
Lectura del sesgo (Progresista): El artículo enmarca las protestas como un llamado a una acción reguladora urgente y destaca las preocupaciones sobre la seguridad de la IA como un tema crítico que requiere cooperación internacional.
Por qué veracidad (30): This article is largely unrelated to the primary source document. It discusses protests against AI companies in San Francisco, focusing on safety concerns and calls for regulation. There is no mention of the specific hacking incident described in the primary source, nor any connection to Hacktron AI
Por qué objetividad (50): The article maintains a neutral tone in describing the protests and their demands. However, it frames the issue in terms of public safety and existential risk, which could be seen as biased toward the protesters' perspective rather than presenting a balanced view of the situation.
Cómo lo cubrió cada lado
El mismo suceso, agrupado por la inclinación política de los medios que lo cubren.
progresista
centro
conservador
★
Cómo lo cubrió cada lado
Apoya noticias independientes y conscientes del sesgo y desbloquea el pulso social, el voto de la comunidad y todas las demás funciones para suscriptores.
Apoya noticias independientes y conscientes del sesgo y desbloquea el pulso social, el voto de la comunidad y todas las demás funciones para suscriptores.
Las principales afirmaciones fácticas y cuántas fuentes las respaldan o las rebaten.
★
Verificación de afirmaciones
Apoya noticias independientes y conscientes del sesgo y desbloquea el pulso social, el voto de la comunidad y todas las demás funciones para suscriptores.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 4 €/mes.
France
