Según múltiples informes, esta reunión se produce en medio de crecientes preocupaciones sobre los riesgos potenciales planteados por las tecnologías avanzadas de inteligencia artificial y cómo podrían ser reguladas o probadas para la seguridad. Se espera que las discusiones se centren en establecer protocolos para evaluar la confiabilidad y las implicaciones éticas de los sistemas de inteligencia artificial, particularmente aquellos capaces de generar contenido altamente realista como imágenes, audio y texto. La reunión sigue una serie de desarrollos relacionados con las regulaciones de inteligencia artificial tanto en los Estados Unidos como en la Unión Europea.
En la UE, nuevas reglas destinadas a frenar la propagación de contenido engañoso generado por IA entraron en vigor a principios de este mes. Estas regulaciones requieren que todos los medios sintéticos, como deepfakes, texto generado por IA e imágenes manipuladas, deben ser claramente etiquetados como artificiales. El objetivo es aumentar la transparencia y ayudar a los usuarios a distinguir entre contenido real y fabricado, especialmente en contextos que involucran figuras públicas o temas políticamente sensibles. La Ley de IA de la UE exige que las empresas que operan dentro del bloque deben garantizar que el material generado por IA esté marcado con una etiqueta visible e incluya una marca de agua digital que indique su origen artificial.
Los textos relativos a asuntos de interés público deben ser etiquetados incluso si carecen de supervisión editorial humana. Si bien las reglas no se aplican al contenido generado por los usuarios o a las creaciones artísticas, el incumplimiento podría resultar en sanciones sustanciales, incluidas multas de hasta 15 millones de euros o el 3% de los ingresos globales de una empresa. Los partidarios de las nuevas regulaciones argumentan que son esenciales para proteger los procesos democráticos y garantizar la integridad de la información compartida en línea. El eurodiputado verde Sergey Lagodinsky, uno de los principales negociadores detrás de la Ley de IA, enfatizó que estas medidas son cruciales para preservar la autenticidad de los hechos y salvaguardar la confianza del público en las comunicaciones digitales.
Sin embargo, algunos representantes de la industria han expresado reservas sobre el alcance y la implementación de las reglas. La Asociación de la Industria de la Computación y las Comunicaciones (CCIA) expresó su preocupación de que las directrices puedan ser demasiado amplias, lo que podría conducir a una sobrecarga de etiquetas que podrían desensibilizar a los usuarios en lugar de aumentar la conciencia. Según Boniface de Champris, líder de la política de IA en CCIA Europa, la distinción entre el contenido engañoso y otras formas de material generado por IA se ha difuminado, lo que resulta en una situación en la que casi todo podría terminar siendo etiquetado.
De Champris advirtió que el impacto de estos cambios probablemente se sentiría más agudamente en las industrias donde el uso de la IA es generalizado pero menos reconocido por el público en general. Señaló a sectores como la publicidad, el cine y la publicación, donde las herramientas de IA son cada vez más empleadas pero a menudo pasan desapercibidas por los consumidores. Como resultado, anticipa un aumento en los esfuerzos de etiquetado que podrían imponer cargas regulatorias adicionales a las empresas que no están familiarizadas con los matices de la gobernanza de la IA. A pesar de estos desafíos, las principales empresas de tecnología ya han implementado políticas internas para abordar el problema del contenido generado por la IA.
Por ejemplo, TikTok ha establecido requisitos para que los creadores etiqueten imágenes, audio y video generados por IA, y afirma haber ayudado a etiquetar más de tres mil millones de piezas de contenido. Del mismo modo, Google introdujo SynthID, una herramienta que permite a los usuarios verificar si el contenido fue generado por IA, en 2023.
El resultado de estas conversaciones puede determinar cómo se desarrollarán, desplegarán y supervisarán las tecnologías de IA en los próximos años.
★
Mantengamos las noticias honestas.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 4 €/mes.
Hazte suscriptor
United Kingdom
