Kaj se je zgodilo z Almendralejo, prvim velikim deepfake primerom, v katerem je umetna inteligenca slekla otroke?

Septembra 2023 je v majhnem mestu v provinci Badajoz, imenovanem Almendralejo, izbruhnil prvi veliki primer v Španiji, ki je vključeval deepfake tehnologijo, ki se je uporabljala za ustvarjanje eksplicitne vsebine z mladoletniki.

Primer je opozorila na Miriam Al Adib, ginekologinja in spolna vzgojiteljica iz Almendraleja. Kot mati se je znašla v težki situaciji, ko je njena hči postala ena od žrtev. Al Adib je ukrepala z ustvarjanjem videa, ki je postal viralen na spletu, pritegnil nacionalno pozornost in podporo skupnosti.

Po poročilih je špansko državno tožilstvo incident razvrstilo pod zločine proti moralni integriteti in nepooblaščeno razkritje skrivnosti. Ta pravni okvir je omogočil odškodninske zahtevke za čustveno škodo, ki so jo utrpele žrtve.

Pospešila je prizadevanja za spremembo španskega kazenskega zakonika, da bi izrecno kriminalizirala pornografijo in digitalno ustrahovanje, ki jih ustvarja AI. Nedavni zakonodajni ukrepi vključujejo zakone, namenjene zaščiti pravice posameznikov do zasebnosti in dostojanstva, s posebnimi določbami, namenjenimi izkoriščanju mladoletnikov s takšnimi tehnologijami. Na evropski ravni je incident spodbudil EU, da sprejme odločne ukrepe.

Ta odločitev je sledila pobudi, ki jo je španska vlada sprejela po škandalu Almendralejo, in je poudarila nujno potrebo po preventivnih ukrepih in pravnih posledicah proti takšnim praksam.

Petnajst posameznikov, odgovornih za ustvarjanje in distribucijo deepfake vsebine, je bilo nedavno obsojenih po dvajsetih točkah za otroško pornografijo in kršitve osebne integritete.