Fact Check: AI fakes on the World Cup are spreading political narratives

Die Fußballweltmeisterschaft 2026, die in Kanada, Mexiko und den USA stattfindet, hat sich zu einem epischen Ereignis entwickelt, das nicht nur durch sportliche Leistungen, sondern auch durch eine Flut von KI-generierten Fakes und manipulierten Inhalten geprägt ist. Besonders kontrovers diskutiert wurde ein Bild, das im Internet viral ging und das einen deutschen Fan im Stadion zeigte, der stark an Adolf Hitler erinnerte. Dieser „Fake“ war jedoch nichts anderes als eine KI-basierte Manipulation, die auf eine Fernsehübertragung zurückging und durch verschiedene Technologien wie ChatGPT bearbeitet wurde. Die Quelle des Bildes stammte aus der ARD-Mediathek, wo ein Moment kurz nach dem Tor von Kai Havertz gefixt wurde. Die genaue Szene zeigte jedoch keinen Hitler-Doppelgänger, sondern lediglich einen grauhaarigen Mann, der keinerlei Ähnlichkeit mit dem NS-Führer aufwies. Technische Analysen durch KI-Erkennungstools wie OpenAI bestätigten die Manipulation, da ein digitales Wasserzeichen, bekannt als SynthID, erkannt wurde, was auf die Nutzung von ChatGPT hindeutete.

Der Viralstatus des Bildes war enorm: Es erreichte über 4,9 Millionen Views auf X, wobei die Beschreibung auf Englisch lautete: „Das ist der unterhaltsamste Weltcup aller Zeiten, Mann.“ Die Manipulation war nicht nur lokal, sondern global verbreitet, wobei die KI-Technologie als Schlüsseltool angesehen wird, das die Falschdarstellung ermöglichte. Parallel dazu kursierten weitere sexistische KI-Fakes, die oft Frauen im Stadion zeigten, die in unpassender Kleidung dargestellt wurden. Diese Fakes basierten auf Originalaufnahmen, in denen jedoch die Fans nicht in solchen Kleidern erschienen. Ein weiteres Beispiel war ein KI-Bild, das die ARD-Moderatorin Esther Sedlaczek in einer Szene zeigte, in der ihr Outfit stark vergrößert und tief ausgeschnitten war. Dieses Bild wurde in englischsprachigen und spanischen Posts verbreitet und erreichte bis zu 1,5 Millionen Views. Die Quelle dafür war eine Szene aus der Halbzeitpause, in der Sedlaczek und Bastian Schweinsteiger gemeinsam berichteten.

Neben diesen Fakes wurde auch eine russische Desinformationskampagne festgestellt, die in den sozialen Medien aktiv war. Ein Video mit dem Logo von Eurosport verbreitete die Behauptung, dass der französische Nationalspieler Kylian Mbappé dem französischen Präsidenten Emmanuel Macron sexuelle Belästigung vorwarfen. Diese Falschmeldung erreichte innerhalb weniger Tage 14 Millionen Aufrufe auf X. Solche Fakes sind Teil eines größeren Musters, das sich in den letzten Monaten verstärkt hat, insbesondere während großer Sportevents, bei denen Millionen Menschen live folgen. Henry Ajder, Experte für Deepfakes und manipulierte KI, betonte, dass solche Events ideal sind, um KI-generierte Inhalte zu verbreiten, da sie eine globale Aufmerksamkeit und eine Vielzahl von Nutzern bieten, die leicht beeinflussbar sind.

Zusätzlich zu den Fakes, die direkt mit dem WM-Spiel in Verbindung stehen, gab es auch andere manipulierte Bilder, die politische Narrative transportierten. Ein Beispiel hierfür war ein Bild, das einen iranischen Fußballer zeigte, der einen rosa Farben Rucksack hochhielt, um auf die „168 durch Donald Trump ermordeten Schulmädchen“ zu protestieren. Dieser Fake wurde durch eine Open AI-Analyse widerlegt, da er weder aus dem WM-Spiel gegen Neuseeland stammte noch einen der iranischen Spieler zeigte. Stattdessen war es ein Bild, das auf echten Protesten basierte, die von iranischen Fans im Stadion in Los Angeles organisiert wurden. Obwohl die Realität hinter dem Protest existierte, war das Bild selbst ein KI-Fake, der absichtlich manipuliert wurde, um bestimmte politische Botschaften zu verbreiten.

Ebenfalls verbreitete sich ein KI-Fake, der den britischen Premierminister Keir Starmer in einem kroatischen Trikot zeigte, als er mit Freunden in einem Pub stand. Dieses Bild wurde auf X veröffentlicht und wurde mit der Beschreibung versehen, dass Starmer und seine Freunde sich auf das WM-Spiel vorbereiteten. Das Originalbild, das 2024 in Dallas aufgenommen wurde, war jedoch nicht das selbe wie das manipulierte Bild. Der Fake wurde durch die DW Faktencheck-Redaktion widerlegt, da er weder in der WM-Übertragung noch in den offiziellen Fotos vorhanden war.

Parallel dazu setzte die EU in Richtung der Regulierung von KI-Technologien voran. Das Europaparlament genehmigte ein neues Gesetz, das den Einsatz von KI zur Erstellung sexualisierter Deepfakes verbietet. Das Verbot gilt ab dem 2. Dezember 2026 und betrifft sowohl Nutzer als auch Anbieter von KI-Tools. Die EU reagierte auf Vorfälle, bei denen Nutzer mithilfe von Chatbots wie Grok Millionen sexualisierter KI-Bilder von Frauen und Kindern erstellten und online verbreiteten. Die neuen Regeln sollen sicherstellen, dass KI-Tools nicht missbraucht werden, um unerlaubte Inhalte zu generieren. Zudem sollen Anbieter KI-Inhalte mit Wasserzeichen kennzeichnen, um die Transparenz zu erhöhen. Die EU-Kommission betont, dass die neuen Regeln zwar streng sind, aber gleichzeitig die Innovation in der KI-Branche fördern sollen.

Die KI-Regulierung ist ein komplexes Thema, das sowohl ethische als auch wirtschaftliche Aspekte berührt. Während die EU versucht, den Missbrauch von KI zu bekämpfen, bleibt die Frage, ob die neuen Gesetze effektiv sind, um Fakes und manipulierte Inhalte zu stoppen. Die Diskussion um KI-Fakes und deren Auswirkungen auf die öffentliche Meinung wird weiterhin intensiv geführt, insbesondere in der Politik und in der Medienlandschaft. Die Zukunft der KI-Regulierung wird daher entscheiden, ob die neuen Gesetze tatsächlich die erforderliche Balance zwischen Innovation und Sicherheit finden können.