Fotografija starejšega francoskega para, ki so ga oborožili in oropali med nemiri, je AI

Vrhunski demokratični voditelji v kongresnih obveščevalnih odborih so v sredo razkrili, da so prejeli tajno obvestilo, ki navaja, da Rusija aktivno vodi kampanjo dezinformacij proti demokratskim kandidatom pred volitvami v sredini mandata prihodnjega meseca. Senator Mark Warner iz Virginije in predstavnik Jim Himes iz Connecticuta sta izjavila, da je obveščevalni sestanek, ki ga je zahteval direktor nacionalne obveščevalne službe Jay Clayton, razkril, da Moskva uporablja taktiko, ki je podobna tisti, ki so jo opazili na ameriških volitvah leta 2016, 2020 in 2024.

Warner je opisal trenutni položaj kot Rusijo, ki cilja predvsem na demokrate, in poudaril, da kampanja odraža prejšnje napore, da bi spodkopala integriteto volitev. Razkrivanja so prišla, ko je predsednik Donald Trump nedavno ublažil gospodarske sankcije proti Rusiji in povečal diplomatski pritisk na Ukrajino, da preneha z sovražnostmi z ruskimi silami. Warner in Himes sta poudarila, da sta bila zaradi zaupnosti omejena na delitev posebnih podrobnosti o sestanku. Vendar pa so opredelili posebne cilje prizadevanj za dezinformacijo.

Warner je navedel novice, ki trdijo, da sta bila teksaška senatorja James Talarico in senator iz Georgije Jon Ossoff, ki si prizadeva za ponovno izvolitev, izpostavljena lažnim oglasom, ustvarjenim z uporabo umetne inteligence. Himes je opisal ruski pristop kot kaotičen in dejal, da Moskva poskuša zasjati nezaupanje v volilne stroje in splošno zmedo. Strategijo je povzel kot skladno s preteklim vedenjem in jo opisal kot isti ponavljajoči se vzorec motenj. Niti Bela hiša niti Urad direktorja nacionalne obveščevalne službe ni takoj odgovorila na zahteve za komentarje glede sestanka. S. volitve.

Medtem ko se zakonodajno razkritje v prvi vrsti nanaša na notranjo politično varnost, širša pokrajina napačnih informacij trenutno vključuje pomembne mednarodne križne tokove. V Franciji je ločen val virusnih posnetkov, povezanih s stalnimi državljanskimi nemiri, zahteval posebne postopke preverjanja. Po Franciji od konca septembra potekajo množični protesti, ki so jih sprva sprožili študenti, ki so protestirali proti slabim učnim razmeram in učnim razmeram. Te demonstracije so se stopnjevale 17. oktobra, ko je državni dan akcije, ki so ga podprle študentske skupine, sindikati in gibanje rumenih jopičev, privedel do več nasilnih incidentov.

Zgodovinske zgradbe, vključno z mestno hišo Limoges, so bile med temi dogodki močno poškodovane. Obstajajo resnični posnetki uničenja, vendar so se zapletli z izmišljenimi posnetki, ki krožijo po družbenih omrežjih. Eden od pomembnih primerov te izmišljotine je slika, ki prikazuje protestnike, ki mahajo s palestinskimi zastavami in metanje ognjemeta na podnožje Eifflovega stolpa. Preveritvene ekipe so ugotovile, da ta slika ni resnična. Vsebuje nevidni vodni žig SynthID, ki kaže, da je bil ustvarjen ali urejen z orodji OpenAI, vključno s ChatGPT, OpenAI API ali Codexom.

Vizualna analiza je pokazala tudi neskladja, kot so se slike v ozadju med seboj in v okolico mešale z dimom. Raziskovalci so sledili izvoru slike in jo povezali s satiričnim člankom, objavljenim 6. oktobra. V tem članku je bilo humorno navedeno, da so Palestinci dobili svojo državo znotraj meja Francije, kar je zagotovilo kontekst za izmišljene podobe, ki se zdaj napačno razlagajo kot dokaz dejanskega konflikta. Še ena razširjena napačna zgodba je fotografija starejšega para, ki se zdi, da so bili med nemiri oblečeni in oropani.

Ta slika je zbrala milijone ogledov, še posebej na platformi X, kjer so jo močno povečali skrajno desniški računi. Podpis ob fotografiji obtožuje "ekstremno levičarske in migrantske upornike", da so na ulici raztrgali par. Nekateri uporabniki so prizor opisali kot najbolj grozljiv dogodek 17. oktobra, drugi pa so ga uporabili za trditve, da je Francija padla, in opozorili, da se bo preostali del Evrope in Združeno kraljestvo soočil z podobno usodo. Dodatne vnetljive trditve kažejo, da je bil par judovski, nekateri uporabniki pa obtožujejo predsednika Emmanuela Macrona, da je pustil Izraelce na cedilu in primerjajo domnevni napad z pogromom leta 1941 na Ukrajini.

Kljub viralnosti teh trditev nobena uradna poročila ne potrjujejo, da se je tak napad zgodil. Državno tožilstvo je 19. oktobra obvestilo francoski časopis Libération, da ni prejelo nobenega poročila o incidentu, ki bi ustrezal opisu. Tehnična analiza je potrdila umetni izvor fotografij. Ko je bila prikazana v Googlovem SynthID detektorju, sta bili obe različici slike označeni kot izdelani ali urejeni z Googlovimi orodji AI. Vizualne anomalije podpirajo to ugotovitev; v eni različici se zdi, da ima starejša ženska tri prste in velik, deformiran palec, medtem ko ima maskiran posameznik v bližini dve glavi, ki sta pritrjeni na eno telo.

Na sliki je prikazan stolp, ki se ne ujema s tipi, ki jih običajno najdemo v Parizu. Raziskovalci so najzgodnejšo različico slike sledili objavi na X 17. oktobra, ki je bila del montaže, ki jo je platforma označila kot ustvarjeno s pomočjo umetne inteligence.