ON
← Zurück zum Feed
Anthropic führt Wasserzeichen bei KI-Texten ein
Germany🏛️ PolitikMittevor 7 Tagen

Anthropic führt Wasserzeichen bei KI-Texten ein

Anthropic, ein in den USA ansässiges KI-Unternehmen, hat Pläne angekündigt, unsichtbare Wasserzeichen in Texte zu integrieren, die von seinem Chatbot Claude generiert werden. Dieser Schritt entspricht den neuen EU-Vorschriften, die von KI-generierten Inhalten maschinenlesbare Identifikatoren verlangen. Das Wasserzeichen bleibt intakt, auch wenn der Text an anderer Stelle kopiert und eingefügt wird, obwohl es nicht unbedingt darauf hindeutet, dass Claude den Text erstellt hat, sondern nur, dass er von der KI bearbeitet oder korrigiert wurde. Die Implementierung folgt den nach dem 2. August veröffentlichten Updates, wobei ältere Versionen von Claude später ähnliche Modifikationen erhalten werden. Die EU verlangt diese Änderungen, um die Transparenz in KI-generierten Inhalten zu gewährleisten, mit möglichen Geldstrafen bei Nichteinhaltung. Über 190 Unternehmen, darunter große Akteure wie Google, Meta und Microsoft, haben bereits einen freiwilligen Verhaltenskodex unterzeichnet. Zusätzlich führt Spotify ab Mitte September ein "Persona-Label" ein, um zu identifizieren, ob die Inhalte von künstlichen Künstlernern erstellt wurden oder KI-generierte User-Personas realisiert sind, und um die Bedenken von KI-generierten Usern zu übertreiben.

Das Wasserzeichen ist so konzipiert, dass erkannt werden kann, ob der Text von Claude erzeugt oder bearbeitet wurde, obwohl das Unternehmen betont, dass es nicht endgültig die Urheberschaft beweist. Die Änderung betrifft alle Versionen von Claude, die nach dem 2. August veröffentlicht wurden, wobei ältere Versionen für Updates geplant sind. Der Schritt entspricht dem EU-AI-Gesetz, das solche Markierungen vorschreibt, um Missbrauch zu verhindern und Transparenz zu gewährleisten.

Ähnliche Maßnahmen werden von anderen Technologieriesen erforscht, darunter Spotify, das plant, ab Mitte September Etiketten einzuführen, die KI-generierte Inhalte in Benutzerprofilen anzeigen. Die Implementierung des Wasserzeichens hat eine Debatte unter Benutzern und Experten ausgelöst. Einige Kritiker argumentieren, dass die Funktion Benutzer, die sich auf Claude für kleinere Änderungen oder Übersetzungen verlassen, unfair markieren könnte und ihre Arbeit möglicherweise als KI-generiert markieren könnte, auch wenn sie selbst einen wesentlichen Beitrag geleistet haben. Andere bezweifeln die Zuverlässigkeit der Technologie und stellen fest, dass das Wasserzeichen möglicherweise nicht robust genug gegen Veränderungen ist oder menschengemachten Inhalt falsch identifizieren könnte.

Anthropic erkennt diese Bedenken an und erklärt, dass das Wasserzeichen auf Claudes Beteiligung hindeuten kann, aber nicht zwischen der ursprünglichen Erstellung und der Bearbeitung unterscheiden kann. Anthropics Ansatz für das Wasserzeichen besteht darin, Metadaten in Texte und Bilder einbetten und sie durch spezialisierte Tools erkennbar zu machen. Der genaue Mechanismus bleibt jedoch unklar, und das Unternehmen muss noch eine öffentliche API zur Überprüfung des Wasserzeichens bereitstellen.

Trotzdem behauptet Anthropic, dass das Wasserzeichen ein notwendiger Schritt zur Einhaltung der EU-Vorschriften ist und die Rechenschaftspflicht bei der KI-Nutzung erhöhen soll.

Darüber hinaus besteht Unsicherheit darüber, wie das Wasserzeichen mit Standard-Textverarbeitungsaufgaben wie Übersetzung oder Zusammenfassung interagieren wird, die versehentlich Elemente von KI-generierten Inhalten enthalten können. Anthropic steht vor Herausforderungen, um sicherzustellen, dass das Wasserzeichen die regulatorischen Standards erfüllt und gleichzeitig das Vertrauen der Benutzer aufrechterhält. Das Unternehmen muss technische Einschränkungen und Kommunikationslücken beseitigen, um die Vorteile des Wasserzeichens vollständig zu nutzen.

Zu den Primärquellen (16)

Die offiziellen Quellen, auf denen die Berichterstattung beruht. Lies sie direkt, um Framing zu umgehen.

9 Berichte

n-tv logon-tvUnabhängigMitteFaktentreue 90Objektivität 85vor 11 Tagen
Konzern kommt EU-Vorgaben nach: Anthropic markiert KI-Texte mit unsichtbarem Wasserzeichen - n-tv.de

Der Artikel berichtet, dass Anthropic, ein großes KI-Unternehmen, unsichtbare Wasserzeichen auf seinen KI-generierten Texten in Übereinstimmung mit den Vorschriften der Europäischen Union implementiert hat. Der Schritt zielt darauf ab, Bedenken hinsichtlich der Authentizität von KI-Inhalten zu beseitigen und Transparenz bei der Unterscheidung von menschlich geschriebenen Inhalten von KI-generiertem Material zu gewährleisten. Diese Entwicklung steht im Einklang mit den breiteren Bemühungen der EU, KI-Technologien zu regulieren und Benutzer vor Fehlinformationen zu schützen.

Tendenz-Einschätzung (Mitte): Der Artikel präsentiert die Umsetzung der EU-Verordnungen als neutrale Tatsache und konzentriert sich auf die technische Anpassung durch Anthropic, ohne den Regulierungsrahmen offen zu kritisieren oder zu loben.

Warum Faktentreue (90): The article accurately summarizes that Anthropic is marking AI-generated texts with an invisible watermark to comply with EU regulations. It aligns closely with the primary source document regarding the nature of the watermark and its compliance with the EU AI Act.

Warum Objektivität (85): The article presents the information in a neutral tone, focusing on the facts without adding personal opinions or emotional language. It provides a straightforward summary of the situation without bias or spin.

heise online logoheise onlineUnabhängigMitteFaktentreue 85Objektivität 78vor 11 Tagen
#heiseshow: KI-Wasserzeichen, Kinderärzte vs. Social Media, E-Auto-Förderung

In der #heiseshow-Episode werden mehrere Themen diskutiert, darunter Anthropics Plan, KI-generierte Inhalte mit Wasserzeichen zu versehen, Forderungen von Kinderärzten nach strengeren Schutzmaßnahmen für Kinder in sozialen Medien und laufende Debatten über Subventionen für Elektrofahrzeuge. Anthropic zielt darauf ab, KI-generierte Texte und Dateien maschinenlesbar zu machen, um dem EU-KI-Gesetz zu entsprechen, aber es bestehen weiterhin Fragen zur Zuverlässigkeit solcher Wasserzeichen, insbesondere nach Modifikationen oder Übersetzungen. Kinderärzte kritisieren Eltern und Plattformen für unzureichende Schutzmaßnahmen gegen Risiken in sozialen Medien und fordern stärkere Altersüberprüfung und Schutzmaßnahmen. Inzwischen schlägt der deutsche Verkehrsminister vor, dass hohe Kraftstoffpreise und erhöhte Verfügbarkeit die Notwendigkeit weiterer EV-Anreize verringern könnten, was Fragen zur Marktbereitschaft und zur Rolle der Infrastruktur und der Preisgestaltung aufwirft.

Tendenz-Einschätzung (Mitte): Der Artikel präsentiert mehrere Standpunkte zu politisch belasteten Themen, KI-Regulierung, Kinderschutzpolitik und Subventionen für Elektrofahrzeuge, ohne offen eine Seite zu bevorzugen.

Warum Faktentreue (85): The article reports on three distinct topics covered in a podcast episode: Anthropic's watermarking of AI-generated content, pediatricians' concerns about social media safety, and the popularity of electric vehicles due to fuel prices. It provides general information based on the podcast discussion

Warum Objektivität (78): The tone remains neutral, presenting different viewpoints without overt bias. However, there is some subtle advocacy for stricter regulations on social media and more government oversight, which slightly skews the objectivity.

heise online logoheise onlineUnabhängigMitteFaktentreue 85Objektivität 70vor 12 Tagen
Keine Chance für Schummler: Claude bekommt jetzt ein unsichtbares Wasserzeichen

Anthropic, der Entwickler des KI-Chatbots Claude, hat ein unsichtbares Wasserzeichen in seine Modelle eingeführt, um den Missbrauch von KI-generierten Inhalten zu erkennen und zu verhindern. Dieses Wasserzeichen bleibt im Text verborgen, kann aber von Systemen erkannt werden, die KI-generiertes Material identifizieren sollen. Der Schritt zielt darauf ab, den kommenden EU-Vorschriften zu entsprechen, die eine größere Transparenz bei der KI-Nutzung erfordern. Diese Technologie hilft zwar, Plagiate und akademische Unehrlichkeit abzuwehren, ist aber nicht narrensicher, umfangreiche Bearbeitung, Übersetzung oder Vermischung von KI-generierten Inhalten mit anderen Texten kann das Wasserzeichen verdecken. Inzwischen wird die Verwendung von Tools wie KI bei Autoren und Studenten immer häufiger. Laut Umfragen verwenden mehr als die Hälfte der Autoren jetzt KI für Schreibprojekte, und fast alle Universitätsstudenten in Deutschland haben zumindest gelegentlich solche Tools verwendet.

Tendenz-Einschätzung (Mitte): In dem Artikel werden technologische Entwicklungen im Zusammenhang mit dem KI-Wasserzeichen und ihre Auswirkungen auf Bildung und Inhaltserstellung erörtert.

Warum Faktentreue (85): The article discusses Anthropic's introduction of an invisible watermark for Claude models to prevent misuse, but it does not mention the gym hacking incident described in the primary source document. It focuses on a different aspect of AI ethics and regulation, making it less aligned with the main

Warum Objektivität (70): The tone is informative and neutral, focusing on technological solutions to ethical concerns. However, it lacks discussion of the specific incident involving AI hacking and the broader implications for AI safety, which may limit its balance.

netzpolitik.org logonetzpolitik.orgUnabhängigProgressivFaktentreue 70Objektivität 55vor 10 Tagen
Verhaltenserkennung in Mannheim: 10.000 Filme für ein Hallelujah

In dem Artikel wird ein langjähriges Projekt der Mannheimer Polizei zur Entwicklung einer KI-Software diskutiert, die durch Videoüberwachung verdächtiges Verhalten erkennen kann. Seit acht Jahren erstellen die Beamten 2.000 simulierte Szenarien ungewöhnlichen Verhaltens, um das System zu trainieren, und planen, diese Zahl auf 10.000 zu erhöhen. Der Artikel stellt die Praktikabilität und Wirksamkeit solcher Simulationen in Frage und stellt fest, dass Polizeibeamte keine ausgebildeten Stuntmen sind und dass reale Bedingungen wie schlechte Sicht oder überfüllte Räume die Genauigkeit des Systems erheblich beeinflussen könnten. Während das Projekt in "KI-Videoschutz" umbenannt wurde, gibt es keine öffentlich verfügbaren Ergebnisse, unabhängige Bewertungen oder konkrete Daten zu Fehlerquoten. Ähnliche Projekte sind in anderen Bundesländern, einschließlich Berlin und Hamburg, im Gange, wo die Polizei ihre Bemühungen selbst bewertet.

Tendenz-Einschätzung (Progressiv): Der Artikel stellt das Problem der KI-gestützten Polizeiarbeit als problematisch dar und hebt Ineffizienzen, Mangel an Transparenz und fragwürdige Wirksamkeit hervor.

Warum Faktentreue (70): The article discusses the police's use of AI video surveillance in Mannheim, referencing the testing process and the number of scenarios used to train the system. It mentions the planned increase from 2,000 to 10,000 films, which aligns with the primary source document’s mention of ongoing training

Warum Objektivität (55): The article has a critical tone towards the police's methods, suggesting they may not be effective or necessary. It uses phrases like 'In Mannheim prügeln sich Polizisten nach Drehbuch' which implies mockery, and questions the value of the effort, indicating a biased perspective.

heise online logoheise onlineUnabhängigMitteFaktentreue 70Objektivität 30vor 7 Tagen
WTF: Anthropic sagt, sein Wasserzeichen funktioniere. Vielleicht. Manchmal.

Anthropic, der Entwickler des KI-Modells Claude, hat ein Wasserzeichen-System für KI-generierten Text eingeführt, aber Benutzer haben es als ineffektiv und schlecht implementiert kritisiert. Das Wasserzeichen soll anzeigen, dass Claude an der Generierung von Inhalten beteiligt war, aber es kann nicht zwischen von Claude erstellten Inhalten und von ihm bearbeiteten Inhalten unterscheiden. Benutzer berichten, dass das Wasserzeichen schwer zu erkennen ist und dass Tools zur Überprüfung seiner Anwesenheit noch nicht verfügbar sind. Anthropic plant, bald eine API zum Erkennen des Wasserzeichens zu veröffentlichen, aber es bleibt unklar, ob dies öffentlich zugänglich sein wird. Kritiker argumentieren, dass die aktuelle Implementierung das Wasserzeichen im Wesentlichen nutzlos macht, da es die grundlegenden Anforderungen an Funktionalität und Transparenz nicht erfüllt.

Tendenz-Einschätzung (Mitte): Der Artikel diskutiert technische Aspekte des KI-Wasserzeichens und die Reaktionen der Nutzer, ohne eine klare Haltung zu politischen Fragen einzunehmen.

Warum Faktentreue (70): The article accurately reports that Anthropic is implementing a watermark for AI-generated text to comply with the EU AI Act. It mentions that the watermark is not visible to readers and does not affect the quality of the output. However, it adds speculative commentary and criticism about the effect

Warum Objektivität (30): The tone is highly critical and sarcastic, using phrases like 'WTF-Meldung' and 'schlicht stümperhaft.' It frames the implementation negatively and includes subjective opinions about the company's communication strategy, lacking neutrality.

heise online logoheise onlineUnabhängigMitteFaktentreue 20Objektivität 30vor 10 Tagen
Claude: Nutzer äußern wegen des neuen Wasserzeichens Kritik an Anthropic

Anthropic hat ein unsichtbares Wasserzeichen für seinen KI-Chatbot Claude eingeführt, um den EU-Transparenzvorschriften für die Identifizierung von KI-generierten Inhalten zu entsprechen. Während das Feature die Rechenschaftspflicht verbessern soll, haben einige Benutzer Kritik geäußert, insbesondere auf Plattformen wie Reddit. Kritiker argumentieren, dass das Wasserzeichen Personen, die Claude für Aufgaben wie das Umschreiben von Absätzen, das Finden von Synonymen oder das Generieren von Zusammenfassungen verwenden, aussetzen könnte und sie möglicherweise als KI-benutzt markieren könnte. Einige Benutzer behaupten, dass das Wasserzeichen Anthropic unfair die Urheberschaft anstelle des menschlichen Benutzers zuschreibt. Andere kritisieren Anthropic dafür, dass er urheberrechtlich geschützte Bücher während der Ausbildung verwendet, die sie als unethisch betrachten.

Tendenz-Einschätzung (Mitte): Der Artikel präsentiert sowohl Kritik als auch Gegenargumente bezüglich der neuen Wasserzeichen-Funktion, ohne offen eine der beiden Seiten zu bevorzugen.

Warum Faktentreue (20): This article is another piece focusing on Anthropic's compliance with EU regulations through the introduction of watermarks for AI-generated text. It does not address the Mannheim police project or any related issues, thus contributing nothing to the factual assessment of the primary source.

Warum Objektivität (30): The article is purely informational about Anthropic's actions and regulatory compliance, without any connection to the Mannheim police initiative. It fails to maintain objectivity when discussing the broader implications of AI regulation.

heise online logoheise onlineUnabhängigMitteFaktentreue 20Objektivität 30vor 11 Tagen
heise+ | Claude: Was den Chatbot ausmacht und worauf man achten sollte

Der Artikel beschreibt die Funktionen und Überlegungen des KI-Chatbots Claude und hebt seine Fähigkeiten zur Verarbeitung natürlicher Sprache, die Integration mit verschiedenen Anwendungen und verschiedenen Modellversionen (Haiku, Sonnet, Opus, Fable) hervor. Er betont die Bedeutung der Anpassung der Datenschutzeinstellungen, um den Missbrauch von Daten durch Anthropic für Trainingszwecke zu verhindern. Das Stück ist Teil einer Serie, die darauf abzielt, Benutzer in die Arbeit mit Claude einzuführen, die Einrichtung, Modelle, Sicherheitsaspekte und verfügbare Erweiterungen abdeckt. Der Artikel erwähnt auch zusätzliche Themen wie das Upgrade alter PCs und sichere Bootzertifikate für Linux, aber diese werden als separate Inhalte vorgestellt.

Tendenz-Einschätzung (Mitte): Der Artikel präsentiert Informationen über Claude, einen KI-Chatbot, auf neutrale Weise. Er nimmt keine klare ideologische Haltung ein und gestaltet die Diskussion nicht so, dass eine politische Perspektive gegenüber einer anderen bevorzugt wird. Der Schwerpunkt liegt auf technischen Merkmalen, Benutzererfahrung und praktischer Nutzung, wobei

Warum Faktentreue (20): This article is entirely about Claude, an AI chatbot, and its features such as watermarks and models. It does not reference the Mannheim police project at all, making it irrelevant to the primary source document. As such, it provides no factual information related to the topic being evaluated.

Warum Objektivität (30): The article is focused solely on discussing Claude and its updates, showing no interest or relevance to the Mannheim police project. There is no attempt to present any objective viewpoint regarding the subject matter.

Tagesschau (ARD) logoTagesschau (ARD)Staatlich / öffentlichMitteFaktentreue 20Objektivität 30vor 12 Tagen
Anthropic führt Wasserzeichen bei KI-Texten ein

Anthropic, ein in den USA ansässiges KI-Unternehmen, hat Pläne angekündigt, unsichtbare Wasserzeichen in Texte zu integrieren, die von seinem Chatbot Claude generiert werden. Dieser Schritt entspricht den neuen EU-Vorschriften, die von KI-generierten Inhalten maschinenlesbare Identifikatoren verlangen. Das Wasserzeichen bleibt intakt, auch wenn der Text an anderer Stelle kopiert und eingefügt wird, obwohl es nicht unbedingt darauf hindeutet, dass Claude den Text erstellt hat, sondern nur, dass er von der KI bearbeitet oder korrigiert wurde. Die Implementierung folgt den nach dem 2. August veröffentlichten Updates, wobei ältere Versionen von Claude später ähnliche Modifikationen erhalten werden. Die EU verlangt diese Änderungen, um die Transparenz in KI-generierten Inhalten zu gewährleisten, mit möglichen Geldstrafen bei Nichteinhaltung. Über 190 Unternehmen, darunter große Akteure wie Google, Meta und Microsoft, haben bereits einen freiwilligen Verhaltenskodex unterzeichnet. Zusätzlich führt Spotify ab Mitte September ein "Persona-Label" ein, um zu identifizieren, ob die Inhalte von künstlichen Künstlernern erstellt wurden oder KI-generierte User-Personas realisiert sind, und um die Bedenken von KI-generierten Usern zu übertreiben.

Tendenz-Einschätzung (Mitte): Der Artikel präsentiert sachliche Informationen über die Einhaltung der EU-Richtlinien für KI-generierte Inhalte durch die Regulierung.

Warum Faktentreue (20): This article is also focused on Claude and the introduction of watermarks by Anthropic. It does not discuss the Mannheim police project or any related topics, thus providing no factual content relevant to the primary source document.

Warum Objektivität (30): The article remains focused on the technical aspects of Claude and the implications of watermarking, without addressing the Mannheim police initiative. It shows no neutrality or balance in relation to the subject under review.

heise online logoheise onlineUnabhängigMitteFaktentreue 20Objektivität 30vor 12 Tagen
Claude: KI-Wasserzeichen – ein Bärendienst für die Wahrheit

Die Europäische Union hat eine Kennzeichnung für KI-generierte Inhalte vorgeschrieben, die Anthropic in seinem KI-Modell Claude durch Hinzufügen eines unsichtbaren Wasserzeichens implementiert hat. Dieses Wasserzeichen soll dabei helfen, KI-generierte Texte zu identifizieren, aber Experten bezweifeln seine Wirksamkeit.

Tendenz-Einschätzung (Mitte): Der Artikel befasst sich mit technischen Aspekten des KI-Wasserzeichens, ohne sich zu politischen Themen zu äußern.

Warum Faktentreue (20): This article continues the discussion around Claude's new watermark feature and user reactions. It does not provide any information about the Mannheim police project or its implementation, hence offering no factual contribution to the evaluation.

Warum Objektivität (30): The article maintains focus on user concerns and criticisms of the watermark feature, without engaging with the broader context of AI applications in policing. It lacks objectivity when discussing the impact of these changes.

Wie jede Seite berichtete

Dasselbe Ereignis, gruppiert nach der politischen Ausrichtung der berichtenden Medien.

Wie jede Seite berichtete

Unterstütze unabhängige, biasbewusste Nachrichten und schalte den Social-Puls, das Community-Voting und alle weiteren Unterstützer-Funktionen frei.

Unterstützer werden

Weltweite Berichterstattung

Dasselbe Ereignis, wie es in anderen Ländern berichtet wurde.

Weltweite Berichterstattung

Unterstütze unabhängige, biasbewusste Nachrichten und schalte den Social-Puls, das Community-Voting und alle weiteren Unterstützer-Funktionen frei.

Unterstützer werden

Faktencheck

Zentrale faktische Aussagen und wie viele Quellen sie bestätigen bzw. bestreiten.

Faktencheck

Unterstütze unabhängige, biasbewusste Nachrichten und schalte den Social-Puls, das Community-Voting und alle weiteren Unterstützer-Funktionen frei.

Unterstützer werden

Halte die Nachrichten ehrlich.

ObjectiveNews ist leserfinanziert und werbefrei – wir zeigen dir den Bias, statt ihn zu verstecken. Unterstütze unabhängigen Journalismus für 4 €/Monat.

Unterstützer werden

Ähnliche Themen