Exclusivo: Hassabis de Google pide un perro guardián global de inteligencia artificial liderado por los Estados Unidos

Demis Hassabis, cofundador y director ejecutivo de Google DeepMind, ha pedido que Estados Unidos lidere la creación de un perro guardián de inteligencia artificial global. En un manifiesto personal titulado "Un marco para la inteligencia artificial fronteriza y el amanecer de una nueva era", publicado el martes, Hassabis describe una propuesta para un organismo regulador que supervisaría el desarrollo y despliegue de los sistemas de inteligencia artificial más avanzados en todo el mundo. Según el manifiesto, Hassabis argumenta que los enfoques actuales para la gobernanza de la inteligencia artificial son inadecuados.

Si no se controlan, estos riesgos, junto con amenazas biológicas y nucleares más graves, pronto podrían residir dentro de modelos de código abierto más allá del alcance del marco regulatorio de cualquier nación. Hassabis enfatiza que el mayor peligro no proviene de modelos de código abierto, sino de los modelos propietarios más potentes desarrollados por laboratorios líderes. Hassabis ha pasado varios meses trabajando entre bastidores para generar apoyo para esta iniciativa. Se ha comprometido con miembros de la administración Trump, altos cargos de otras organizaciones de investigación de IA y funcionarios europeos.

La administración Trump, que previamente favorecía un enfoque no intervencionista para la regulación de la IA, parece haber mostrado apertura a la idea, particularmente después de los recientes desarrollos que involucran modelos antropicos. El organismo regulador propuesto funcionaría de manera similar a la Autoridad Reguladora de la Industria Financiera (FINRA), una organización autorreguladora en el sector financiero. Bajo el plan de Hassabis, los principales laboratorios de investigación de IA tendrían que presentar sus modelos más avanzados para la evaluación de seguridad hasta 30 días antes de su publicación pública. Este proceso implicaría pruebas rigurosas de peligros potenciales relacionados con la seguridad cibernética, amenazas biológicas y capacidades engañosas.

Una vez que los procedimientos de prueba se consideren efectivos y confiables, el organismo podría hacer la transición a una entidad reguladora formalizada. La estructura del organismo de control propuesto incluiría una junta independiente mayoritaria compuesta por expertos técnicos de primer nivel, incluidos los destinatarios del Premio Turing. La junta también incorporaría representantes de la industria y los sectores gubernamentales, así como de la comunidad de código abierto.

La propuesta se aplica a todos los modelos de IA clasificados como "clase fronteriza", independientemente de su país de origen o de si son de código abierto o propietarios. Hassabis sugiere que los criterios de clasificación se revisarán y ajustarán periódicamente a medida que las capacidades tecnológicas continúen evolucionando. El gobierno de los Estados Unidos ha subrayado la urgencia de tales medidas. El abrupto cese de los modelos Anthropic Mythos y Fable de la administración Trump el mes pasado sirvió como una llamada de atención para muchos en la comunidad de IA. Anthropic se enfrentó a una orden inesperada de control de exportación que congeló efectivamente sus modelos más poderosos.

Después de casi tres semanas de negociación, los modelos fueron finalmente liberados, aunque sin pautas o protocolos claros. El modelo fue puesto a disposición del público después de extensas discusiones con el Departamento de Comercio. Otros prominentes investigadores de IA, incluido el CEO de Anthropic, Dario Amodei, también han abogado por regulaciones más estrictas. Amodei ha propuesto el establecimiento de una agencia similar a la Administración Federal de Aviación (FAA), capaz de bloquear el despliegue de modelos de IA inseguros.

Si bien hay un amplio acuerdo entre los principales investigadores de IA de que es necesaria una regulación más estricta, siguen existiendo diferencias sobre quién debe tener la autoridad final para dar forma a estas políticas. Hassabis sigue siendo optimista de que el marco regulatorio propuesto se puede implementar en cuestión de meses, con el nuevo organismo potencialmente operativo antes de fin de año. A medida que continúa la carrera para desarrollar una IA cada vez más poderosa, la necesidad de mecanismos de supervisión coordinados y reconocidos a nivel mundial es cada vez más apremiante.