Faktencheck: KI-Fakes zur WM verbreiten politische Narrative

Die Fußballweltmeisterschaft 2026, die in Kanada, Mexiko und den USA stattfindet, hat sich zu einem epischen Ereignis entwickelt, das nicht nur durch sportliche Leistungen, sondern auch durch eine Flut von KI-generierten Fälschungen und manipulierten Inhalten geprägt ist. Besonders kontrovers diskutiert wurde ein Bild, das im Internet viral ging und das einen deutschen Fan im Stadion zeigte, der stark an Adolf Hitler erinnerte. Dieser Fake war jedoch nichts anderes als eine KI-basierte Manipulation, die auf eine Fernsehübertragung zurückging und durch verschiedene Technologien wie ChatGPT bearbeitet wurde.

Die Quelle des Bildes stammte aus der ARD-Mediathek, wo ein Moment kurz nach dem Tor von Kai Havertz fixiert wurde. Die genaue Szene zeigte jedoch keinen Hitler-Doppelgänger, sondern lediglich einen grauhaarigen Mann, der keinerlei Ähnlichkeit mit dem NS-Führer aufweist. Technische Analysen durch KI-Erkennungstools wie OpenAI bestätigten die Manipulation, da ein digitales Wasserzeichen, bekannt als SynthID, erkannt wurde, war auf die Nutzung von ChatGPT hindeutete.

Die Manipulation war nicht nur lokal, sondern global verbreitet, wobei die KI-Technologie als Schlüsselwerkzeug angesehen wird, das die Falschdarstellung ermöglichte. Parallel dazu kursierten weitere sexistische KI-Fakes, die oft Frauen im Stadion zeigten, die in unpassender Kleidung dargestellt wurden. Diese Fakes basierten auf Originalaufnahmen, in denen jedoch die Fans nicht in solchen Kleidern erschienen. Ein weiteres Beispiel war ein KI-Bild, das die ARD-Moderatorin Esther Sedlaczek in einer Szene zeigte, in der ihr Outfit stark vergrößert und tief ausgeschnitten war. Dieses Bild wurde in englischsprachigen und spanischen Posts verbreitet und erreichte bis zu 1,5 Millionen Views.

Die Quelle dafür war eine Szene aus der Halbzeitpause, in der Sedlaczek und Bastian Schweinsteiger gemeinsam berichteten.

Neben diesen Fakes wurde auch eine russische Desinformationskampagne festgestellt, die in den sozialen Medien aktiv war. Ein Video mit dem Logo von Eurosport verbreitete die Behauptung, dass der französische Nationalspieler Kylian Mbappé dem französischen Präsidenten Emmanuel Macron sexuelle Belästigung vorwarfen. Diese Falschmeldung erreichte innerhalb weniger Tage 14 Millionen Aufrufe auf X. Solche Fakes sind Teil eines größeren Musters, das sich in den letzten Monaten verstärkt hat, insbesondere während großer Sportveranstaltungen, bei denen Millionen Menschen leben.

Henry Ajder, Experte für Deepfakes und manipulierte KI, betont, dass solche Events ideal sind, um KI-generierte Inhalte zu verbreiten, da sie eine globale Aufmerksamkeit und eine Vielzahl von Nutzern bieten, die leicht beeinflusst werden können.

Ein Beispiel hierfür war ein Bild, das einen iranischen Fußballer zeigte, der einen rosa Farben Rucksack hochhielt, um auf die 8168 durch Donald Trump ermordeten Schulmädchen prot zu protestieren. Dieses Fake wurde durch eine Open AI-Analyse widerlegt, da weder aus dem WM-Spiel gegen Neuseeland noch einen der iranischen Spieler zeigte. Stattdessen war ein Bild, das auf echten Protesten basierte, von den iranischen Fans im Stadion in Los Angeles organisiert worden.

Obwohl die Realität hinter dem Protest existierte, war das Bild selbst ein KI-Fake, der absichtlich manipuliert wurde, um bestimmte politische Botschaften zu verbreiten.

Ebenfalls verbreitete sich ein KI-Fake, der den britischen Premierminister Keir Starmer in einem kroatischen Trikot zeigte, als er mit Freunden in einem Pub stand. Dieses Bild wurde auf X veröffentlicht und wurde mit der Beschreibung versehen, dass Starmer und seine Freunde sich auf das WM-Spiel vorbereiteten. Das Originalbild, das 2024 in Dallas aufgenommen wurde, war jedoch nicht das selbe wie das manipulierte Bild. Das Fake wurde durch die DW Faktencheck-Redaktion gelegt, da es weder in der WM-Übertragung noch in den offiziellen Fotos vorhanden war.

Die EU reagierte auf Vorfälle, bei denen Nutzer mithilfe von Chatbots wie Grok Millionen sexualisierter KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Die neuen Regeln sollen sicherstellen, dass KI-Tools nicht missbraucht werden, um unerlaubte Inhalte zu generieren. Zudem sollen KI-Anbieter mit Wasserzeichen versehen werden, um die Transparenz zu erhöhen.

Die EU-Kommission betont, dass die neuen Regeln zwar streng sind, aber gleichzeitig die Innovation in der KI-Branche fördern sollen.

Die KI-Regulierung ist ein komplexes Thema, das sowohl ethische als auch wirtschaftliche Aspekte berührt. Während die EU versucht, den Missbrauch von KI zu bekämpfen, bleibt die Frage, ob die neuen Gesetze effektiv sind, um Fälschungen und manipulierte Inhalte zu stoppen. Die Diskussion über KI-Fälschungen und ihre Auswirkungen auf die öffentliche Meinung wird weiterhin intensiv geführt, insbesondere in der Politik und in der Medienlandschaft. Die Zukunft der KI-Regulierung wird daher entschieden, ob die neuen Gesetze tatsächlich das erforderliche Gleichgewicht zwischen Innovation und Sicherheit finden können.