¿Qué tiene de malo la nueva ley europea de inteligencia artificial?

En una medida que ha provocado un debate entre las compañías tecnológicas, los reguladores y los grupos de la sociedad civil, la Comisión Europea ha clasificado a ChatGPT, Reddit y Roblox bajo las disposiciones más estrictas de la Ley de Servicios Digitales (DSA). Esta clasificación significa que estas plataformas deben cumplir con obligaciones adicionales dentro de cuatro meses, a partir de enero de 2027. La decisión sigue a los informes de que cada servicio ha superado los 45 millones de usuarios mensuales dentro de la UE, cumpliendo con el umbral establecido por la DSA para calificar como plataformas en línea muy grandes (VLOPs) o motores de búsqueda muy grandes (VLOSE).

La Comisión Europea anunció las clasificaciones el lunes, tras las notificaciones de los operadores que confirmaron que su número de usuarios cumplía con los criterios descritos en la legislación que rige los servicios digitales. Estas nuevas obligaciones incluyen evaluar y mitigar los riesgos sistémicos derivados de sus servicios y sistemas algorítmicos. Los riesgos abarcan la propagación de contenido ilegal, los impactos negativos en los menores de edad, el bienestar físico y mental de los usuarios, los derechos fundamentales, los procesos electorales y la seguridad pública. Los operadores deberán realizar evaluaciones detalladas de riesgos e implementar medidas para abordarlos, al tiempo que informan regularmente sobre el progreso.

La clasificación otorga a la Comisión Europea poderes de supervisión ampliados, lo que le permite evaluar las funciones subyacentes a los servicios y sistemas relacionados. Según informes de los medios de comunicación, la comisión colaborará con las autoridades nacionales de Irlanda y los Países Bajos, donde están registrados los proveedores de servicios relevantes, para garantizar el cumplimiento del reglamento. Hasta el momento, la comisión ha designado 28 motores de búsqueda y plataformas en línea muy grandes bajo la DSA. Los críticos han planteado varias preocupaciones con respecto al nuevo marco regulatorio. Un punto importante de discusión es el estiramiento legal de la ley y la clasificación errónea de los servicios.

Los expertos legales argumentan que ChatGPT y sistemas similares no encajan perfectamente en ninguna categoría definida por la DSA, que tradicionalmente cubre funcionalidades de alojamiento, almacenamiento en caché y búsqueda. Clasificar a un chatbot como un motor de búsqueda crea incertidumbre legal y establece un precedente que podría afectar a otros servicios basados en IA. Otra preocupación es la doble regulación, donde los proveedores de grandes modelos ya están sujetos a la Ley de IA. Ahora enfrentan obligaciones aún más estrictas bajo la DSA, incluidas evaluaciones de riesgos, auditorías independientes y procedimientos específicos para quejas y apelaciones. Esta doble carga regulatoria aumenta los costos y la confusión sobre qué reglas se aplican en diferentes escenarios.

Algunos sistemas de IA integrados en plataformas, como Grok on X, podrían estar bajo la DSA solo, lo que podría conducir a estándares inconsistentes para servicios similares. Los críticos también advierten de amenazas a la libertad de expresión y la posible censura por parte de la autoridad. La DSA requiere que proveedores muy grandes evalúen y mitiguen los "riesgos sistémicos", incluidos los que afectan el discurso social y los procesos electorales. La naturaleza amplia e indefinida de este término se considera problemática, lo que podría obligar a los proveedores a eliminar contenido legítimo debido a la precaución excesiva o permitir la presión política sobre las empresas privadas para limitar el discurso que los propios gobiernos no pueden prohibir legalmente.

La carga administrativa impuesta por la DSA es otro problema. Los requisitos como las evaluaciones anuales de riesgos, las auditorías independientes, la transparencia de los sistemas de recomendación y los canales dedicados para quejas y apelaciones son particularmente exigentes. Si bien las grandes empresas estadounidenses pueden permitirse estos requisitos, los proveedores de IA europeos y más pequeños pueden tener dificultades, lo que genera temores de que las empresas de la UE puedan retrasar o evitar la introducción de nuevas características por completo debido al temor a las sanciones, que podrían ascender hasta el seis por ciento del tráfico global.

Además, los críticos argumentan que las herramientas proporcionadas por la DSA no son adecuadas para abordar riesgos específicos relacionados con la IA. Mecanismos como la notificación y la acción, y los indicadores de confianza, fueron diseñados para el contenido generado por el usuario. Sin embargo, con la IA generativa, los problemas como las alucinaciones, el sesgo sistemático y el potencial de creación masiva de contenido engañoso no son adecuadamente abordados por la DSA. Los críticos sugieren que la Ley de IA sería más adecuada para manejar estos desafíos. El impacto en los medios de comunicación y el pluralismo es otra área de preocupación.

A medida que la DSA entre en vigor, es probable que crezca su influencia en la forma en que se comparte y regula la información en línea, lo que podría remodelar el paisaje digital de manera que pueda afectar la libertad de expresión, la innovación y la competencia.