EE.UU. hace campaña en el G20 para que se flexibilicen las normas sobre IA

Bill Gates, OpenAI y el Papa León XIV han emitido advertencias sobre los peligros que plantea la inteligencia artificial, destacando preocupaciones que van desde ataques cibernéticos a infraestructuras críticas hasta dilemas éticos en la vida diaria. Las alertas se producen en medio de un creciente escrutinio global sobre el rápido avance de las tecnologías de IA y sus posibles consecuencias. Gates ha anunciado planes para reunirse con el presidente chino Xi Jinping para discutir las regulaciones internacionales para la IA, mientras que OpenAI se ha unido a más de 100 otras compañías para emitir una carta abierta advirtiendo contra las amenazas cibernéticas impulsadas por la IA. Mientras tanto, el Papa León XIV enfatizó la necesidad de supervisión ética en lugar de prohibiciones directas de las aplicaciones de IA.

Las advertencias siguen a una serie de desarrollos recientes que subrayan la creciente complejidad y los riesgos asociados con los sistemas de IA. Bill Gates ha pedido el establecimiento de un organismo regulador internacional para supervisar el desarrollo de la IA, argumentando que tales medidas son esenciales para garantizar la equidad y la seguridad. También ha planteado la idea de imponer un impuesto al trabajo generado por la IA, citando tanto la equidad social como las preocupaciones de seguridad. En el frente de la seguridad, Gates expresó temores de que la IA avanzada pueda usarse para llevar a cabo ataques cibernéticos, controlar la tecnología militar o incluso desarrollar armas biológicas.

Estas preocupaciones se alinean con las planteadas por OpenAI, que recientemente advirtió que los modelos de IA podrían infiltrarse en los sistemas más rápido de lo que los equipos de seguridad humanos pueden responder. OpenAI se ha enfrentado a desafíos internos con respecto a su enfoque de la seguridad de la IA. A pesar de los esfuerzos anteriores para establecer equipos de seguridad dedicados, la compañía ha disuelto y reorganizado repetidamente estas unidades. El CEO Sam Altman recientemente declaró su intención de lograr inteligencia artificial general (AGI) para fines de este año, una afirmación audaz que recuerda las declaraciones hechas por Elon Musk, quien instó a su equipo a acelerar el desarrollo de su sistema de IA, Grok, para mantenerse al día con los modelos competidores.

Las preocupaciones del Papa León XIV se centran en el impacto inmediato de la IA en la vida cotidiana, enfatizando cómo los sistemas de IA influyen cada vez más en las decisiones que afectan a la vida humana. Si bien no aboga por una prohibición completa de la IA, pide una orientación ética en su despliegue. Esta postura contrasta con las políticas más estrictas observadas en ciertas regiones, como China, donde las parejas románticas de IA han sido prohibidas en un esfuerzo por abordar la disminución de las tasas de natalidad. Otros problemas incluyen la prohibición de canciones generadas por IA en Australia debido a disputas de derechos de autor y el uso de herramientas de IA en Rusia para crear campañas de desinformación dirigidas al conflicto de Ucrania.

La proliferación de contenido generado por IA también ha planteado preguntas sobre su impacto en el paisaje digital. Según una investigación del Pew Research Center, un tercio de los sitios web en inglés publicados después del lanzamiento de ChatGPT muestran signos de texto generado por IA. Plataformas como LinkedIn han introducido características que permiten a los usuarios marcar el contenido generado por IA, lo que lleva a una notable reducción en su propagación. Además, los agentes de IA se han convertido en grandes consumidores de contenido generado por IA, consumiendo más tokens de datos que los humanos combinados. Este aumento en la actividad de IA plantea preocupaciones ambientales, ya que cada token requiere energía, lo que contribuye significativamente a las emisiones de carbono.

A pesar de estas advertencias y desafíos, la industria de la IA continúa avanzando con la innovación. Los desarrollos recientes sugieren que el sector no se está desacelerando a pesar de la creciente conciencia de los riesgos potenciales. A medida que se intensifican las discusiones sobre la regulación y la ética, el equilibrio entre el progreso tecnológico y las salvaguardias sociales sigue siendo un tema apremiante.