Video italijanskega predsednika vlade, ki pravi, da šeriatsko pravo ne bo dovoljeno v Italiji, je ustvaril AI

Na spletu se je pojavil video, v katerem italijanska premierka Giorgia Meloni izjavlja, da šeriatsko pravo ne bo dovoljeno v Italiji, vendar preiskave potrjujejo, da je deepfake, ki ga je ustvarila umetna inteligenca. Deset sekundni posnetek, ki je prejel na tisoče všečkov na X in delnic na Facebooku, prikazuje gospo Meloni, ki govori v angleščini na podiju. V posnetku naj bi rekla: "Ne bomo dovolili, da se šeriatsko pravo izvaja v Italiji. Jaz sem Giorgia Meloni. Jaz sem kristjan. " Vendar pa ta vsebina ni verodostojna in gospa Meloni ni izrekla teh izjav. Analiza videa razkriva več znakov manipulacije.

S pomočjo orodja za iskanje obrnjene slike so prvi okvir posnetka sledili fotografiji, ki jo je objavila Evropska agencija za tiskovne fotografije. Slika je bila opisana kot posneta na tiskovni konferenci z nemškim kanclerjem Friedrichom Merzom v Rimu januarja. Preučili so celoten posnetek tiskovne konference, ki je potekala po medvladnem vrhu med Italijo in Nemčijo.

Zvok v videu se prav tako razlikuje od pristnih posnetkov gospe Meloni, ki govori v angleščini. V desnem kotu videa je vidna prekrita Grok vodna znamka, povezana z AI chatbotom, ki je integriran z X-jem, kar dodatno kaže na njegov sintetični izvor. Vizualna neskladja tudi podpira trditev deepfake. Na primer, oblika uhanov gospe Meloni v videu je v nasprotju s tistimi v pristnih posnetkih. Te neskladje kažejo, da je bil video ustvarjen z uporabo tehnologije AI, verjetno iz statične slike gospe Meloni.

Medtem ko se v videu prikazujejo njene posebne pripombe, kot so izražanje zaskrbljenosti zaradi združljivosti nekaterih interpretacij islamske kulture s pravicami in vrednotami italijanske civilizacije, so bile te izjave preverjene v resničnih posnetkih.

Platforme družbenih medijev se še naprej soočajo z izzivi pri preprečevanju širjenja zavajajoče vsebine. Uporabniki so spodbujeni, da preverijo pristnost informacij, preden jih delijo, še posebej, ko gre za politične osebnosti. Orodja in vodniki, ki jih zagotavljajo organizacije, kot je Full Fact, ponujajo praktične korake za prepoznavanje slik in videoposnetkov, ki jih ustvari AI.