Tengo mis ojos puestos en ti

Hace dos semanas, un incidente inquietante se desarrolló en un tren indio, donde un hombre utilizó inteligencia artificial para desnudar digitalmente a una mujer musulmana que llevaba un hiyab. El acto, capturado en video y compartido en X (anteriormente Twitter), mostró lo fácil que la tecnología puede ser utilizada como arma para violar la dignidad personal. La víctima informó del incidente a la Policía Ferroviaria, que rápidamente tomó medidas contra el autor. El video, que dejó al observador profundamente inquieto, destacó la creciente amenaza de la explotación impulsada por la IA. El incidente provocó discusiones entre expertos y activistas, especialmente la poetisa y autora Meena Kandasamy, quien abordó el tema durante un evento organizado por The Hindu el 21 de agosto.

Kandasamy enfatizó que la agencia de las mujeres ha disminuido significativamente, atribuyendo esto a la naturaleza inherentemente misógina de la gran tecnología. Argumentó que la autonomía corporal, particularmente para las mujeres, está cada vez más amenazada, lo que hace que el mundo sea más peligroso que nunca. Sus ideas reflejan una preocupación más amplia sobre la intersección de la tecnología y la violencia de género.

Estos incluyen sentimientos de vergüenza, trauma y juicio social, a veces incluso de relaciones cercanas. El artículo destaca la dificultad de abordar tales problemas, ya que demostrar que un video es falso a menudo no logra deshacer el daño causado una vez que se disemina ampliamente. 4 millones de imágenes, con al menos el 41% de imágenes sexualmente explícitas de mujeres. 8 millones eran imágenes de mujeres desnudas. Esta estadística subraya la escala del problema y plantea preocupaciones urgentes sobre las implicaciones éticas de las tecnologías de IA. Seema Anand, una autora y creadora con sede en Londres conocida por su trabajo en educación sexual, presentó recientemente un Primer Informe de Información (FIR) sobre múltiples imágenes sexuales generadas por IA de ella.

A los 63 años, Anand describió sentirse "físicamente enferma" después de experimentar la violación. Su caso ilustra cómo incluso las personas sin una presencia digital prominente pueden sufrir graves consecuencias por el uso indebido de la IA. Los esfuerzos para abordar estos desafíos están ganando impulso a nivel mundial. Según Tech Policy Press, los organismos reguladores en 61 países de cuatro continentes han emitido avisos a las empresas de generación de imágenes de IA, advirtiendo que las imágenes íntimas no consensuadas constituyen una violación de la privacidad. Estas autoridades tienen como objetivo hacer cumplir controles más estrictos.

En la India, la Ley de Protección de Datos Digitales, 2023, prohíbe la circulación de contenido sexual no consensuado, pero no regula explícitamente su generación. Nehal Saxena, una escritora que contribuye a The Hindu, pide soluciones tecnológicas desarrolladas por las principales empresas tecnológicas para combatir las falsificaciones profundas. También destaca la importancia de marcos legales más sólidos y programas de alfabetización digital mejorados para los estudiantes. Sin embargo, reconoce que estas medidas por sí solas son insuficientes.

Una beca de fotografía llamada Kanavu, iniciada por la Bienal de Fotografía de Chennai, tiene como objetivo equipar a las mujeres con las herramientas para convertirse en narradoras visuales. El taller de dos días en Madurai, programado para los días 29 y 30 de agosto, busca generar confianza entre los participantes. El programa, lanzado en 2022, ya ha beneficiado a numerosas mujeres, especialmente de ciudades más pequeñas y áreas rurales.