Anthropic ha anunciado que comenzará a incrustar marcas de agua imperceptibles en el texto y los archivos generados por sus modelos de IA, incluido Claude, para cumplir con la Ley de IA de la Unión Europea. La compañía confirmó la actualización de la política en un documento de soporte modificado, indicando que todos los modelos lanzados después del 2 de agosto incluirán automáticamente características de marcas de agua. Estas marcas de agua serán visibles para las máquinas pero no para los lectores humanos, lo que permite a los sistemas identificar el contenido generado por IA. La medida tiene como objetivo alinearse con el Código de Transparencia de la UE, que requiere que los desarrolladores de IA marquen el contenido creado o modificado por IA de una manera que pueda ser reconocido por otros sistemas.
La marca de agua se aplica tanto al texto como a los tipos de archivo, con este último utilizando el estándar abierto C2PA. Para el texto, la marca de agua se integra directamente en el contenido, asegurando que viaja con el texto cuando se copia o pega. Según Anthropic, la marca de agua puede permanecer detectable incluso después de alguna edición. Sin embargo, la compañía reconoce que la reescritura extensa, la mezcla con otro contenido o la traducción pueden oscurecer la marca. La característica estará disponible en todos los productos de Claude, incluidos la plataforma, API, Código, Cowork y servicios de etiquetas. La compañía también está trabajando para adaptar la tecnología a modelos más antiguos, aunque el alcance de este soporte sigue siendo incierto.
Esta iniciativa sigue a los esfuerzos más amplios de la industria para abordar las preocupaciones en torno al contenido generado por la IA. Compañías como Suno, Substack y otras han implementado medidas similares, a menudo en respuesta a desafíos legales o reacciones públicas. Por ejemplo, Substack se asoció con Pangram para marcar el contenido generado por la IA, mientras que Suno anunció que etiquetaría la música producida por la IA. La medida de Anthropic refleja la creciente presión de los reguladores y los usuarios por igual para garantizar la transparencia en las salidas de la IA. La Ley de IA de la UE exige que los sistemas de IA deben revelar su naturaleza, particularmente cuando generan o alteran contenido, y las actualizaciones de Anthropic están destinadas a cumplir con ese requisito.
La implementación de la marca de agua plantea preguntas complejas sobre la privacidad y el uso indebido. Si bien la característica está destinada a ayudar a identificar el contenido generado por la IA, también podría complicar los esfuerzos para proteger los datos del usuario. Además, la presencia de marcas de agua puede exponer inadvertidamente las interacciones de los usuarios con las herramientas de IA, especialmente si las marcas están vinculadas a cuentas o dispositivos específicos. Anthropic aún no ha aclarado cómo maneja el anonimato del usuario o si el proceso de marca de agua implica el seguimiento de usuarios individuales. Estos problemas destacan la tensión entre la transparencia y la privacidad del usuario en el panorama evolutivo de la regulación de la IA.
La introducción de la marca de agua también subraya el creciente papel de la IA en los campos creativos y profesionales. Los casos relacionados con la escritura generada por la IA han provocado controversia dentro de la industria editorial, con casos como la retirada del apoyo a un libro sospechoso de contener contenido generado por la IA. Del mismo modo, las instituciones educativas han comenzado a desarrollar métodos para detectar el uso de la IA, como la incorporación de instrucciones ocultas en las instrucciones de examen.
A medida que se acerca la fecha límite para el cumplimiento de la Ley de IA de la UE, fijada para el 2 de diciembre, es probable que otras grandes empresas de IA sigan su ejemplo. Google DeepMind, por ejemplo, ya ha introducido la marca de agua para texto y video a través de su tecnología SynthID. Con más empresas que adoptan estrategias similares, la capacidad de distinguir entre contenido generado por humanos y AI se está estandarizando cada vez más. Sin embargo, la efectividad de estas medidas depende del refinamiento continuo y la adaptación a las tecnologías emergentes y los comportamientos de los usuarios. El impacto a largo plazo de estas políticas dependerá de qué tan bien equilibren la transparencia, la rendición de cuentas y la protección de los intereses de los usuarios.
★
Mantengamos las noticias honestas.
ObjectiveNews se financia con los lectores y no tiene anuncios: te mostramos el sesgo en lugar de ocultarlo. Apoya el periodismo independiente por 4 €/mes.
Hazte suscriptor
United States
