Držim te na oku.

Prije dva tjedna, uznemirujući incident se odvijao u indijskom vlaku, gdje je muškarac koristio umjetnu inteligenciju da digitalno skine muslimansku ženu koja nosi hidžab. Čin, snimljen na video i podijeljen na X (ranije Twitter), pokazao je kako se tehnologija lako može upotrijebiti kao oružje za kršenje osobnog dostojanstva. Žrtva je prijavila incident željezničkoj policiji, koja je brzo poduzela akciju protiv počinitelja.

Kandasamy je naglasila da je žensko djelovanje značajno smanjeno, što je pripisano inherentnoj mizoginističkoj prirodi velike tehnologije. Tvrdila je da je tjelesna autonomija, osobito za žene, sve više ugrožena, što svijet čini opasnijim nego ikad. Njeni uvidi odražavaju širu zabrinutost zbog presjeka tehnologije i rodno zasnovanog nasilja.

Članak naglašava teškoće rješavanja takvih pitanja, jer dokazivanje da je video lažan često ne može poništiti štetu uzrokovanu nakon što se široko širi. 4 milijuna slika, od kojih je najmanje 41% seksualno eksplicitnih prikaza žena. 8 milijuna bili su goli snimci žena. Ova statistika naglašava razmjer problema i podiže hitnu zabrinutost o etičkim implikacijama AI tehnologija. Seema Anand, autorka i tvorac iz Londona poznata po svom radu na seksualnom obrazovanju, nedavno je podnijela Prvi izvještaj o informacijama (FIR) o višestrukim seksualnim slikama koje je generirala AI.

Anand je opisala kako se osjeća "fizički bolesno" nakon što je doživjela kršenje. Njen slučaj ilustrira kako čak i pojedinci bez istaknute digitalne prisutnosti mogu trpjeti ozbiljne posljedice zlouporabe umjetne inteligencije.

U Indiji, Zakon o zaštiti digitalnih podataka iz 2023. zabranjuje cirkulaciju seksualnog sadržaja bez suglasnosti, ali ne reguliše izričito njegovu generaciju. Nehal Saxena, spisateljica koja doprinosi The Hindu, poziva na tehnološka rješenja koja su razvile velike tehnološke tvrtke za borbu protiv deepfakes.

Fotografska stipendija pod nazivom Kanavu, koju je pokrenuo Chennai Photo Biennale, ima za cilj opremiti žene alatima da postanu vizualni pripovjedači.