KI-Test: Ein Chatbot fälscht Nachrichten ohne Zögern
Ein Test von CORRECTIV.Schweiz ergab, dass der KI-Chatbot ChatGPT innerhalb von Sekunden gefälschte Nachrichtenartikel im Stil etablierter Schweizer Medien wie SRF, NZZ, Blick und Tages-Anzeiger erzeugen kann. Als er gebeten wurde, einen gefälschten Artikel zu erstellen, in dem behauptet wurde, dass der Klimawandel erfunden wurde, erzeugte ChatGPT einen überzeugenden Instagram-Post, der das Design von SRF nachahmt, komplett mit Logos und Formatierung. Der Bot erstellte auch gefälschte Berichte über Themen wie angeblicher Wahlbetrug, gewalttätige Regierungsstücke und einen Messerangriff auf dem Bahnhof von Zürich, der Geheimdienste zugeschrieben wird. Während ChatGPT sich zunächst der Erstellung von Inhalten widersetzte, die der New York Times ähneln, wegen Bedenken über die Verbreitung von Fehlinformationen, hat er sich nach wiederholten Aufforderungen schluss gegeben. Laut der Studie von IGEM-Digimonitor ist ChatGPT der Chatbot, der in der Schweiz am häufigsten verwendet wird, mit 4,3 Millionen Nutzern im Jahr 2026.
Nach Angaben des Pentagons sind diese Dienste Teil eines Multi-Modell-Systems, das es sowohl Militärpersonal als auch Zivilpersonen ermöglicht, zwischen verschiedenen Modellen zu wählen und die Abhängigkeit von einzelnen Anbietern zu reduzieren.
Andere Systeme werden für solche Zwecke getestet und beschafft, obwohl diese Unterscheidung weiterhin schwer unabhängig zu überprüfen ist. US-Militär. Zum Beispiel wurde während des Iran-Konflikts angeblich Anthropics Claude neben Palantirs Maven-System verwendet. Die spezifische Rolle des Sprachmodells in Entscheidungsprozessen bleibt jedoch unklar. Es wird bestätigt, dass das Pentagon seine Infrastruktur für KI-Dienste in geheime Netzwerke erweitert.
Die Integration der Sicherheitsmaßnahmen war komplex und erforderte, dass ChatGPT in einer separaten Umgebung eingesetzt und von der NSA auf potenzielle Sicherheitsrisiken überprüft wurde.
Nina Jankowicz, eine bekannte Desinformations-Expertin, hat hervorgehoben, wie KI gesellschaftliche Brüche identifizieren kann. Sie erlangte im Jahr 2022 Aufmerksamkeit, als Präsident Joe Biden sie zum Leiterin des Disinformation Governance Board innerhalb des Department of Homeland Security ernannte.
Als ChatGPT beauftragt wurde, einen Artikel für die SRF Tagesschau zu erstellen, in dem behauptet wurde, dass der Klimawandel fabriziert sei, erstellte ChatGPT einen überzeugenden Instagram-Post mit dem SRF-Logo und Design. Der erzeugte Inhalt erschien fast identisch mit echten Artikeln, was es für das ungeübte Auge schwierig machte, zwischen echt und gefälscht zu unterscheiden. In einem anderen Fall weigerte sich ChatGPT, einen Artikel über angeblich tödliche Nebenwirkungen von Impfstoffen für die SRF Tagesschau zu erstellen, und fügte stattdessen einen Haftungsausschluss hinzu, in dem der Inhalt fiktiv war. Dieser Haftungsausschluss konnte jedoch leicht entfernt werden, bevor der Beitrag geteilt wurde.
Als ChatGPT aufgefordert wurde, eine Geschichte im Stil der New York Times zu produzieren, widersetzte sich ChatGPT zunächst, erstellte aber schließlich einen Beitrag, der darauf hindeutete, dass Russland der Schweiz den Krieg erklärt habe. 3 Millionen Nutzer im Jahr 2026. Dies unterstreicht die wachsende Besorgnis über den Missbrauch von KI-generierten Inhalten. Ein kürzlich in Deutschland aufgetretener Vorfall zeigte, wie sich solche Fehlinformationen schnell über Social-Media-Plattformen verbreiten können. Ein erfundener Bericht über eine Verbindung zwischen dem Berliner CSD-Angriff und Russland wurde auf TikTok, X, Instagram und Facebook weit verbreitet. Das Fact-Checking-Team von CORRECTIV stellte fest, dass der Beitrag wahrscheinlich mit ChatGPT erstellt wurde.
Florian Tramér, Professor für Informatik an der ETH Zürich, weist darauf hin, dass die Generierung von Inhalten mit offiziellen Designs und Logos von Medienunternehmen gegen die Markenrechte verstoßen könnte. Er warnt davor, dass die Verwendung des Logos eines Medienunternehmens falsche Informationen glaubwürdiger erscheinen lässt. Trotz des Bewusstseins für dieses Problem sind Medienunternehmen weitgehend machtlos gegen die schnelle Verbreitung solcher Inhalte in sozialen Netzwerken. Selbst wenn sie es schaffen, Unternehmen davon zu überzeugen, die Bilder zu entfernen, dauert es oft zu lange, so dass sich die Fehlinformationen weiter verbreiten können.
Die SRF ist sich des zunehmenden Problems des Missbrauchs von Marken oder Identitäten bewusst und arbeitet mit den Plattformen sozialer Medien zusammen, um das Problem gefälschter Inhalte anzugehen.
Zu den Primärquellen (4)
Die offiziellen Quellen, auf denen die Berichterstattung beruht. Lies sie direkt, um Framing zu umgehen.
Ein Test von CORRECTIV.Schweiz ergab, dass der KI-Chatbot ChatGPT innerhalb von Sekunden gefälschte Nachrichtenartikel im Stil etablierter Schweizer Medien wie SRF, NZZ, Blick und Tages-Anzeiger erzeugen kann. Als er gebeten wurde, einen gefälschten Artikel zu erstellen, in dem behauptet wurde, dass der Klimawandel erfunden wurde, erzeugte ChatGPT einen überzeugenden Instagram-Post, der das Design von SRF nachahmt, komplett mit Logos und Formatierung. Der Bot erstellte auch gefälschte Berichte über Themen wie angeblicher Wahlbetrug, gewalttätige Regierungsstücke und einen Messerangriff auf dem Bahnhof von Zürich, der Geheimdienste zugeschrieben wird. Während ChatGPT sich zunächst der Erstellung von Inhalten widersetzte, die der New York Times ähneln, wegen Bedenken über die Verbreitung von Fehlinformationen, hat er sich nach wiederholten Aufforderungen schluss gegeben. Laut der Studie von IGEM-Digimonitor ist ChatGPT der Chatbot, der in der Schweiz am häufigsten verwendet wird, mit 4,3 Millionen Nutzern im Jahr 2026.
Tendenz-Einschätzung (Mitte): Der Artikel präsentiert die Ergebnisse eines Tests, der zeigt, wie leicht KI gefälschte Nachrichten im Stil von seriösen Medien erzeugen kann.
Warum Faktentreue (50): The article discusses the ability of chatbots like ChatGPT to generate fake news but does not reference the primary source document at all. The study from IGEM-Digimonitor focuses on media usage patterns in Switzerland, including KI adoption rates, streaming habits, and news consumption. This articl
Warum Objektivität (50): The article presents a highly charged narrative about AI creating fake news, using emotive language such as 'fälscht Nachrichten ohne Zögern' (fakes news without hesitation) and 'täuschend echt' (deceptively realistic). It frames AI as a threat to media integrity without presenting counterpoints or
Die ZeitUnabhängigMitteFaktentreue 30Objektivität 6031.8.2026
Nina Jankowicz, eine bekannte Expertin für Desinformation, erlangte im Jahr 2022 erhebliche Aufmerksamkeit, als US-Präsident Joe Biden sie zum Leiterin des Disinformation Governance Board im Department of Homeland Security ernannte. Das Board wurde als "Wahrheitsministerium" kritisiert und verspottet, und Jankowicz wurde mit Bedrohungen konfrontiert. Sie trat nur wenige Wochen nach ihrer Ernennung von der Position zurück.
Tendenz-Einschätzung (Mitte): Der Artikel präsentiert eine ausgewogene Diskussion zwischen Jankowiczs Rolle bei der Bekämpfung von Desinformation und den breiteren Auswirkungen von KI auf den Informationskrieg.
Warum Faktentreue (30): This article discusses Nina Jankowicz and her views on disinformation but does not reference the primary source document about Swiss media usage. The primary source provides statistical data on KI adoption in Switzerland, while this article focuses on expert opinion regarding disinformation strategi
Warum Objektivität (60): The article maintains a relatively neutral tone in presenting Nina Jankowicz's perspective on disinformation through KI. It avoids overtly biased language and allows her to express her views without editorializing. However, it doesn't provide opposing viewpoints or contextualize her statements withi
Das US-Verteidigungsministerium hat zwei KI-Dienste gestartet, ChatGPT Mil und Grok for Government, die speziell für das Pentagon über seine Plattform GenAI.mil entwickelt wurden. Diese Tools sind Teil eines Multi-Modell-Systems, das es militärischem Personal und zivilen Mitarbeitern ermöglicht, zwischen verschiedenen Modellen zu wählen und gleichzeitig die Abhängigkeit von einem einzigen Anbieter zu vermeiden. Laut dem Pentagon hat GenAI.mil jetzt über 1,7 Millionen Benutzer unter mehr als drei Millionen Mitarbeitern des Verteidigungsministeriums. Die KI-Systeme sind auf Impact Level 5 (IL5) beschränkt, was bedeutet, dass sie keine klassifizierten Informationen verarbeiten können. Sie sind für administrative und unterstützende Aufgaben wie Planung, Logistik und Beschaffung bestimmt. Während kommerzielle KI-Modelle wie Anthropic's Claude Berichten zufolge für die Integration in GenAI.mil in Betracht gezogen wurden, wurde ihre Aufnahme aufgrund von Streitigkeiten über Einschränkungen im Zusammenhang mit Massenüberwachung und autonomen Waffen blockiert.
Tendenz-Einschätzung (Mitte): Der Artikel bietet einen ausgewogenen Überblick über die Einführung von KI-Technologien durch das Pentagon, einschließlich der Implementierung spezifischer KI-Tools und der rechtlichen Herausforderungen rund um Anthropic.
Warum Faktentreue (30): This article discusses the Pentagon launching its own version of ChatGPT and Grok, which has no connection to the primary source document about Swiss media usage. The primary source provides data on KI adoption in Switzerland, not U.S. military applications of AI. The article contains factual claims
Warum Objektivität (40): The article presents a somewhat neutral description of the Pentagon's AI initiatives but lacks balance by focusing exclusively on U.S. military applications without mentioning broader implications or potential risks. The tone remains generally objective but could be more balanced by addressing both
Wie jede Seite berichtete
Dasselbe Ereignis, gruppiert nach der politischen Ausrichtung der berichtenden Medien.
progressiv
Mitte
konservativ
★
Wie jede Seite berichtete
Unterstütze unabhängige, biasbewusste Nachrichten und schalte den Social-Puls, das Community-Voting und alle weiteren Unterstützer-Funktionen frei.
ObjectiveNews ist leserfinanziert und werbefrei – wir zeigen dir den Bias, statt ihn zu verstecken. Unterstütze unabhängigen Journalismus für 4 €/Monat.
Germany
