'Casi comenzó una guerra': cómo un error de IA llevó a una llamada cercana entre EE.UU. y China

Un informe de inteligencia que circuló dentro del ejército estadounidense esta primavera afirmó que un barco chino en el Medio Oriente estaba transportando componentes asociados con un programa de armas nucleares. El informe desencadenó la alarma y condujo a los preparativos para una operación para interceptar el buque. Según múltiples fuentes, el ejército estadounidense estaba preparando personal armado para abordar el barco, y los aviones militares ya estaban en el aire. Sin embargo, justo antes de que comenzara la operación, los funcionarios revisaron la inteligencia y descubrieron que había sido generada con la ayuda de un chatbot de IA.

El incidente comenzó cuando un analista del Comando de Operaciones Especiales de los Estados Unidos examinó la inteligencia sobre el manifiesto de la nave, que se originó en el Comando de Operaciones Especiales del Pacífico de los Estados Unidos con sede en Hawái. El analista utilizó un chatbot para procesar la información, combinando datos de código abierto con inteligencia de señales clasificadas. El sistema de IA identificó incorrectamente la carga como componentes de un programa de armas nucleares. El analista luego utilizó AI nuevamente para transformar estos hallazgos en un informe de inteligencia estándar, que posteriormente se compartió en todo el ejército. La naturaleza exacta de la carga a bordo del barco sigue siendo desconocida, aunque el informe de inteligencia se confirmó como falso.

El uso de la IA en la generación del informe de inteligencia plantea preguntas sobre la confiabilidad del análisis generado por la IA en escenarios de alto riesgo. El chatbot utilizado por el analista era un sistema comercialmente disponible o una herramienta de IA desarrollada internamente. Un ex alto funcionario estadounidense señaló que los sistemas internos de IA a menudo son similares a los comerciales, simplemente adaptados para uso gubernamental. Este incidente destaca los peligros potenciales de confiar en la IA en contextos militares, especialmente en tiempos de tensión elevada y conflicto activo.

La comunidad militar y de inteligencia de los Estados Unidos continúa expandiendo su dependencia de la IA para diversas funciones, desde el análisis de grandes cantidades de inteligencia hasta la gestión de la logística y las cadenas de suministro. En enero, el secretario de Defensa de los Estados Unidos, Pete Hegseth, presentó la "Estrategia de Aceleración de la Inteligencia Artificial" del Pentágono, con el objetivo de acelerar la integración de las tecnologías de IA por parte de los militares. La estrategia enfatiza la reducción de obstáculos burocráticos y garantiza que los Estados Unidos mantengan el liderazgo en aplicaciones militares de IA. A pesar del impulso para la integración de la IA, la falta de pautas estandarizadas para el uso de la IA en el ejército presenta desafíos.

Diferentes sistemas operan bajo diferentes reglas y salvaguardias, aumentando la probabilidad de errores o mal uso. Las preocupaciones sobre el papel de la IA en las operaciones militares se han intensificado después de los informes de que los modelos de IA se han utilizado en el desarrollo de sistemas de guía de misiles. Por ejemplo, Anthropic reveló que un grupo de ingeniería de armas con sede en Yemen había empleado su modelo Claude AI para crear software de guía y control para misiles y cohetes.

El reciente casi accidente que involucra el informe de inteligencia generado por IA sirve como una advertencia sobre los riesgos inherentes a la integración de la IA en los procesos de toma de decisiones militares. A medida que Estados Unidos y otras naciones continúan invirtiendo en capacidades de IA, la necesidad de mecanismos de supervisión robustos se hace cada vez más evidente. El incidente subraya la importancia de verificar las conclusiones generadas por la IA antes de actuar sobre ellas, particularmente en situaciones en las que las apuestas son tan altas como las relaciones internacionales y la estabilidad global.