Preverjanje dejstev: AI laži o svetovnem prvenstvu širijo politične narative

Svetovno prvenstvo v nogometu 2026, ki bo potekalo v Kanadi, Mehiki in ZDA, se je razvilo v epski dogodek, ki ga ne zaznamujejo le športne dosežke, temveč tudi množica ponaredkov in manipuliranih vsebin, ki jih je ustvarila umetna inteligenca. Posebno kontroverzna je bila slika, ki se je na internetu razširila in ki je na stadionu pokazala nemškega navijača, ki je močno spominjal na Adolfa Hitlerja. Ta ponaredek ni bil nič drugega kot manipulacija na osnovi umetne inteligence, ki je bila zasnovana na televizijskem prenosu in obdelana z različnimi tehnologijami, kot je ChatGPT.

The Source of Images izvira iz ARD-Mediatheke, kjer je bil določen Moment kurz nach dem Tor von Kai Havertz. Die genaue Szene pa ni prikazoval Hitlerjevega dvojnika, temveč le človeka z sivim lasom, ki nima nobene podobnosti z NS-Führerjem. Tehnične analize KI-Erkennungstools, kot je OpenAI, so potrdile, da je bila manipulacija izvedena z uporabo digitalnega vodnega znaka, znanega kot SynthID.

Manipulacija ni bila le lokalna, temveč globalna, pri čemer je KI tehnologija veljala za ključno orodje, ki je omogočilo ponarejanje. Paralelno s tem so se pojavili še drugi seksistični KI-fakti, ki so pogosto prikazovali ženske na stadionu, ki so bile prikazane v neprimernem oblačenju. Ti fakti so bili zasnovani na izvirnih posnetkih, v katerih pa navijači niso bili v takšnih oblačilih.

Die Quelle dafür war eine Szene aus der Halbzeitpause, in der Sedlaczek und Bastian Schweinsteiger skupaj poročajo.

Poleg teh ponaredkov je bilo tudi rusko dezinformacijsko kampanjo, ki je bila aktivna na družbenih omrežjih. Video z logotipom Eurosporta je razširil trditev, da je francoski nogometaš Kylian Mbappé spolno nadlegoval francoskega predsednika Emmanuela Macrona. Ta ponaredek je v nekaj dneh dosegel 14 milijonov klicev na X. Takšni ponaredki so del večjega vzorca, ki se je v zadnjih mesecih povečal, zlasti med velikimi športnimi dogodki, ki jih uživo spremljajo milijoni ljudi.

Henry Ajder, Expert für Deepfakes und manipulierte KI, poudarja, da so takšni dogodki idealni za širjenje vsebine, ki jo ustvari KI, saj pritegnejo globalno pozornost in veliko število uporabnikov, na katere je mogoče zlahka vplivati.

Poleg ponaredkov, ki so neposredno povezane s tekmo na svetovnem prvenstvu, je bilo tudi drugih manipuliranih slik, ki so prenašale politične narative. Primer tega je bila slika, ki je prikazovala iranskega nogometaša, ki je nosil rožnato nahrbtnik, ki ga je nosil na 168 dolarjev, ko je Donald Trump umoril šolarko, da bi protestiral. Ta ponaredek je bila razkrita z odprto analizo AI, ki ni pokazala niti enega od iranskih igralcev v tekmi na svetovnem prvenstvu proti Nizozemski. Namesto tega je bila slika, ki je temeljila na resničnih protestih, organizirana na stadionu v Los Angelesu s strani iranskih navijačev.

Čeprav je obstajala resničnost protestov, je bila slika sama ponarejena in namenoma manipulirana za širjenje določenih političnih sporočil.

Prav tako se je razširil KI-Fake, ki je prikazoval britanskega premierja Keira Starmerja v hrvaškem majicu, ko je s prijatelji v pubu. Ta slika je bila objavljena na X in je bila opremljena z opisom, da so se Starmer in njegovi prijatelji pripravljali na svetovno prvenstvo v nogometu. Originalna slika, ki je bila posneta leta 2024 v Dallasu, ni bila enaka kot spremenjena slika.

Evropska unija se je odzvala na primere, ko so uporabniki s pomočjo klepetalnikov ustvarili in na spletu objavili več milijonov spolnih slik žensk in otrok. Nova pravila naj bi zagotovila, da se orodja KI ne bodo zlorabljala in da ne bodo ustvarila nedovoljenih vsebin. Ponudniki naj bi označevali vsebino KI z vodnimi oznakami, da bi povečali preglednost.

EU-Komisija poudarja, da so nova pravila stroka, hkrati pa naj bi spodbujala inovacije v industriji AI.

Razprava o KI-Fakes in njunih vplivih na javno mnenje se še naprej intenzivno vodi, zlasti v politiki in medijskem okolju. Prihodnost KI-Regulierung se bo torej odločila, ali lahko novi zakoni dejansko dosežejo potrebno ravnovesje med inovacijami in varnostjo.