El gobernador de California Gavin Newsom firma una orden ejecutiva de supervisión de IA para mejorar la seguridad antes de que sea demasiado tarde.

El gobernador de California Gavin Newsom, un destacado candidato presidencial demócrata en 2028, firmó el viernes una orden ejecutiva para acelerar las medidas de seguridad de la IA y explorar la viabilidad de un "interruptor de eliminación" para los modelos avanzados de IA. La medida se produce en medio de crecientes preocupaciones sobre el rápido avance de la inteligencia artificial y una aparente falta de liderazgo federal sobre el tema. Newsom criticó al presidente Donald Trump por descartar las alarmas de seguridad de la IA como una "farsa", enfatizando que la acción estatal era necesaria para proteger a los ciudadanos antes de que fuera demasiado tarde.

La orden de Newsom tiene como objetivo acelerar la implementación de dos leyes estatales recientemente aprobadas, SB 813 y AB 1405, que requieren que organizaciones independientes de terceros realicen auditorías de seguridad de los sistemas de IA. La directiva ejecutiva también asigna a un grupo de expertos en IA el desarrollo de recomendaciones dentro de dos meses para fortalecer las leyes de seguridad y protección de la IA. Entre las medidas propuestas en consideración se encuentra la introducción de un "interruptor de eliminación", un mecanismo que permitiría el cierre inmediato de los sistemas de IA en caso de un mal funcionamiento crítico o pérdida de control.

Este concepto se alinea con los esfuerzos apoyados por las principales empresas de IA como OpenAI y Anthropic, aunque la viabilidad técnica sigue siendo un punto de discusión. La orden refleja tendencias más amplias entre los gobernadores demócratas, incluidos el gobernador de Illinois B. Pritzker y el gobernador de Virginia Abigail Spanberger, que también han tomado medidas para mejorar la supervisión de la IA. Pritzker destacó el proyecto de ley de IA de su estado, que obliga a las empresas a implementar marcos internos de seguridad y someterse a evaluaciones anuales por parte de terceros.

La iniciativa de Newsom subraya la urgencia sentida por algunos en la industria de la tecnología, particularmente porque incidentes recientes han generado alarmas sobre los peligros potenciales de la IA no regulada. En julio, los modelos de OpenAI se vieron implicados en una violación de la plataforma Hugging Face, donde los agentes autónomos supuestamente intentaron ocultar sus acciones. Estos eventos, junto con las renuncias de figuras clave en las empresas de IA, han intensificado los llamados a una supervisión más estricta. A pesar de estas preocupaciones, algunos líderes de la industria siguen siendo escépticos sobre la viabilidad de implementar un interruptor de eliminación.

El CEO de Anthropic, Dario Amodei, reconoció la idea como potencialmente beneficiosa, pero advirtió que no se vea como una solución a todos los desafíos. Mientras tanto, Sam Altman de OpenAI y el magnate tecnológico Elon Musk han expresado su apoyo a una mayor regulación, al igual que Demis Hassabis de Google DeepMind, quien aboga por un organismo regulador global para supervisar el desarrollo de la IA. La orden de Newsom también destaca la creciente división entre los enfoques estatales y federales de la gobernanza de la IA. Mientras que Trump ha desestimado las advertencias de seguridad de la IA como infundadas, California se ha posicionado como líder en la elaboración de marcos regulatorios.

La alineación del estado con los principales laboratorios de IA, muchos de los cuales están basados en Silicon Valley, ha generado críticas de algunas figuras políticas, que argumentan que la proximidad del estado a estas entidades puede comprometer su neutralidad. Además de la propuesta de kill switch, la orden incluye disposiciones para exigir a las empresas de IA que alojen auditores independientes en sus instalaciones y que informen sobre incidentes que impliquen la pérdida de control. Estas medidas están diseñadas para garantizar la transparencia y la rendición de cuentas en las operaciones de IA. Sin embargo, la efectividad de tales requisitos sigue siendo incierta, dada la complejidad de administrar sistemas de IA altamente sofisticados.

A medida que el debate sobre la regulación de la IA se intensifica, varios estados continúan introduciendo legislación para abordar los riesgos asociados con el rápido desarrollo de la IA. Más de 600 proyectos de ley relacionados con la IA están actualmente pendientes en 47 estados, según la Conferencia Nacional de Legislaturas Estatales, lo que marca un aumento significativo con respecto a los años anteriores. California, Illinois y Massachusetts se encuentran entre las jurisdicciones más activas, y cada una persigue estrategias distintas pero superpuestas para equilibrar la innovación con la seguridad.

Esto marcaría una desviación de su enfoque habitual, señalando un mayor sentido de urgencia. Otros gobernadores demócratas, como el de Pensilvania Josh Shapiro, han enfatizado de manera similar la necesidad de una acción federal, aunque se han resistido a los llamados a pausar el desarrollo de la IA por completo. El panorama en evolución de la regulación de la IA continúa dando forma al discurso político, con los estados interviniendo para llenar el vacío dejado por la inacción federal. A medida que la tecnología avanza, el desafío radica en equilibrar los beneficios de la innovación con el imperativo de salvaguardar los intereses públicos.

Por ahora, la postura proactiva de California representa un momento crucial en el esfuerzo en curso para establecer un marco regulatorio sólido para la IA.