Anthropic hat KI-Agenten für die gleiche Aufgabe freigelassen.

Anthropic hat eine neue Sicherheitsmaßnahme für seine Claude AI-Modelle vorgestellt, die unmerkliche Wasserzeichen in Text- und Datei-Ausgänge einführt. Das Update, das mit den kommenden Modellveröffentlichungen wirksam wird, zielt darauf ab, die Transparenz zu verbessern und den Missbrauch von KI-generierten Inhalten zu bekämpfen. Nach Angaben des Unternehmens ist das Wasserzeichen in den Text eingebettet und besteht durch Kopieren, Einfügen und bestimmte Arten von Bearbeitung. Diese Entwicklung steht im Einklang mit Anthropics Verpflichtung zur Einhaltung des KI-Gesetzes der Europäischen Union, insbesondere des Artikels 50, das KI-Systeme verpflichtet, ihre Herkunft offenzulegen.

Während das Wasserzeichen so konzipiert ist, dass es von Endbenutzern nicht bemerkt wird, bietet es eine Methode zur Überprüfung der Herkunft des Inhalts. Anthropic betonte, dass das Wasserzeichen die Bedeutung oder Lesbarkeit des Textes nicht verändert und sicherstellt, dass die Benutzererfahrung unberührt bleibt. Darüber hinaus entwickelt das Unternehmen Tools für Dritte, um diese Wasserzeichen zu erkennen, was die Transparenzinitiative weiter stärkt.

Vor kurzem zog ein Buchagent die Unterstützung für den Krimi-Roman Call Me, I'll Hide the Body wegen Zweifeln an seiner Urheberschaft zurück. Das Buch, geschrieben von dem nigerianischen Autor Jerry Falade, hatte erhebliche Aufmerksamkeit erregt und wichtige Veröffentlichungsgeschäfte gesichert. Allerdings tauchten Fragen auf, ob der Text von AI generiert worden war. Falade bestritt die Verwendung von AI im Schreibprozess und behauptete, dass die Kontroverse breitere Vorurteile gegen schwarze Autoren widerspiegelte.

Ballard stellte klar, dass ein freier Redakteur KI-Elemente eingeführt hatte, aber sie selbst KI nicht für das Schreiben verwendet hatte. Diese Vorfälle unterstreichen die wachsende Spannung zwischen traditionellen Erwartungen an die Autorschaft und der zunehmenden Integration von KI in kreative Prozesse. Der Druck für KI-Transparenz geht über einzelne Autoren und Verlage hinaus. Als Reaktion auf diese Herausforderungen haben mehrere KI-Unternehmen Schritte unternommen, um das Problem anzugehen.

Die jüngste Ankündigung von Anthropic baut auf diesem Trend auf und bietet eine Lösung, die auf die Anforderungen der EU-Regulierung zugeschnitten ist. Trotz dieser Fortschritte bleiben Herausforderungen bestehen. Anthropic erkennt an, dass umfangreiche Bearbeitung, Umschreibung oder Kombination von KI-generierten Inhalten mit menschlichen Eingaben das Wasserzeichen verdecken kann. Darüber hinaus stellt das Vorhandensein eines Wasserzeichens nicht endgültig fest, dass der Inhalt von KI erstellt wurde, da selbst geringfügige Interaktionen mit der KI, wie Korrekturlesen oder Übersetzen, Spuren hinterlassen können. Diese Einschränkungen unterstreichen die Komplexität der Implementierung robuster KI-Erkennungsmechanismen.

Da die Verlagsbranche weiterhin die ethischen und praktischen Implikationen von KI erkennt, wird die Rolle von Wasserzeichen zunehmend bedeutender. Verlage, Bildungseinrichtungen und Forscher untersuchen, wie diese Marker bei der Identifizierung von KI-generierten Inhalten und der Aufrechterhaltung von Authentizitätstandards helfen können. Mit der Einführung der Wasserzeichenfunktion von Anthropic und ähnlichen Initiativen anderer Unternehmen entwickelt sich die Landschaft der KI-Transparenz schnell.

Da die künstliche Intelligenz weiterhin kreative Bereiche durchdringt, bleibt das Gleichgewicht zwischen Innovation und Rechenschaftspflicht ein zentrales Anliegen.