Ti tengo d'occhio

Due settimane fa, un incidente inquietante si è svolto su un treno indiano, in cui un uomo ha usato l'intelligenza artificiale per svestire digitalmente una donna musulmana che indossava l'hijab. L'atto, catturato su video e condiviso su X (ex Twitter), ha mostrato quanto facilmente la tecnologia possa essere trasformata in un'arma per violare la dignità personale. La vittima ha segnalato l'incidente alla polizia ferroviaria, che ha rapidamente intrapreso un'azione contro l'autore. Il video, che ha lasciato l'osservatore profondamente inquieto, ha evidenziato la crescente minaccia di sfruttamento guidato dall'IA. L'incidente ha scatenato discussioni tra esperti e attivisti, in particolare la poetessa-autrice Meena Kandasamy, che ha affrontato il problema durante un evento organizzato da The Hindu il 21 agosto.

Kandasamy ha sottolineato che l'agenzia femminile è diminuita in modo significativo, attribuendolo alla natura intrinsecamente misogina della grande tecnologia. Ha sostenuto che l'autonomia corporea, in particolare per le donne, è sempre più minacciata, rendendo il mondo più pericoloso che mai. Le sue intuizioni riflettono una più ampia preoccupazione per l'intersezione tra tecnologia e violenza di genere. Oltre all'incidente del treno, i rapporti indicano che i contenuti generati dall'IA comportano gravi rischi. Un articolo su The Hindu discute i pericoli dei deepfake, osservando che i clip pornografici generati dall'IA possono portare a profondo disagio emotivo per le vittime.

L'articolo evidenzia la difficoltà di affrontare tali problemi, poiché dimostrare che un video è falso spesso non riesce a annullare il danno causato una volta che è diffuso ampiamente. 4 milioni di immagini, con almeno il 41% di ritratti sessualmente espliciti di donne. 8 milioni erano immagini di donne nude. Questa statistica sottolinea la portata del problema e solleva preoccupazioni urgenti sulle implicazioni etiche delle tecnologie di IA. Seema Anand, autrice e creatrice londinese nota per il suo lavoro sull'educazione sessuale, ha recentemente presentato un First Information Report (FIR) riguardante molteplici immagini sessuali generate da AI.

Secondo Tech Policy Press, gli organismi di regolamentazione di 61 paesi in quattro continenti hanno emesso avvisi alle società di generazione di immagini di IA, avvertendo che le immagini intime non consensuali costituiscono una violazione della privacy.

In India, il Digital Data Protection Act, 2023, vieta la circolazione di contenuti sessuali non consensuali, ma non ne regola esplicitamente la generazione. Nehal Saxena, scrittrice che contribuisce a The Hindu, chiede soluzioni tecnologiche sviluppate dalle principali aziende tecnologiche per combattere i deepfake.

Il programma, lanciato nel 2022, ha già beneficiato numerose donne, specialmente quelle delle piccole città e delle aree rurali.