Ich habe dich im Auge.

Vor zwei Wochen ereignete sich in einem indischen Zug ein beunruhigender Vorfall, bei dem ein Mann künstliche Intelligenz benutzte, um eine muslimische Frau, die einen Hijab trug, digital auszuziehen. Die Tat, die auf Video aufgenommen und auf X (früher Twitter) geteilt wurde, zeigte, wie leicht Technologie zu einer Waffe gemacht werden kann, um die persönliche Würde zu verletzen. Das Opfer meldete den Vorfall der Eisenbahnpolizei, die schnell gegen den Täter vorging. Das Video, das den Beobachter tief verunsichert ließ, hob die wachsende Bedrohung durch KI-getriebene Ausbeutung hervor. Der Vorfall löste Diskussionen unter Experten und Aktivisten aus, insbesondere der Dichterin und Autorin Meena Kandasamy, die sich am 21. August während einer von The Hindu organisierten Veranstaltung mit dem Thema befasste.

Kandasamy betonte, dass die Rolle der Frauen erheblich zurückgegangen sei, was auf die inhärent frauenfeindliche Natur der großen Technologien zurückzuführen sei. Sie argumentierte, dass die körperliche Autonomie, insbesondere für Frauen, zunehmend bedroht sei, was die Welt gefährlicher als je zuvor mache. Ihre Erkenntnisse spiegeln eine breitere Besorgnis über die Schnittstelle von Technologie und geschlechtsspezifischer Gewalt wider.

Diese beinhalten Gefühle von Scham, Trauma und sozialem Urteil, manchmal sogar aus engen Beziehungen. Der Artikel hebt die Schwierigkeit hervor, solche Probleme anzugehen, da der Beweis, dass ein Video gefälscht ist, oft nicht den verursachten Schaden rückgängig macht, sobald es weit verbreitet ist. 4 Millionen Bilder, von denen mindestens 41% sexuell explizite Darstellungen von Frauen sind. 8 Millionen waren nackte Bilder von Frauen. Diese Statistik unterstreicht das Ausmaß des Problems und wirft dringende Bedenken über die ethischen Auswirkungen von KI-Technologien auf. Seema Anand, eine in London ansässige Autorin und Schöpferin, die für ihre Arbeit an Sexualerziehung bekannt ist, reichte kürzlich einen Ersten Informationsbericht (FIR) über mehrere von KI erzeugte sexuelle Bilder von sich ein.

Anand beschrieb sich mit 63 Jahren als "körperlich krank", nachdem sie die Verletzung erlebt hatte. Ihr Fall zeigt, wie selbst Personen ohne eine prominente digitale Präsenz schwere Folgen durch den Missbrauch von KI haben können.

In Indien verbietet das Digital Data Protection Act 2023 die Verbreitung von nicht einvernehmlichen sexuellen Inhalten, regelt jedoch nicht explizit deren Erzeugung. Nehal Saxena, eine Schriftstellerin, die zu The Hindu beiträgt, fordert technologische Lösungen, die von großen Technologiefirmen entwickelt wurden, um Deepfakes zu bekämpfen. Sie betont auch die Bedeutung stärkerer rechtlicher Rahmenbedingungen und erweiterter digitaler Alphabetisierungsprogramme für Studenten. Sie räumt jedoch ein, dass diese Maßnahmen allein unzureichend sind.

Ein Fotografie-Fellowship namens Kanavu, initiiert von der Chennai Photo Biennale, zielt darauf ab, Frauen mit den Werkzeugen auszustatten, um visuelle Geschichtenerzähler zu werden. Der zweitägige Workshop in Madurai, der für den 29. und 30. August geplant ist, zielt darauf ab, das Vertrauen der Teilnehmer zu stärken. Das Programm, das 2022 gestartet wurde, hat bereits zahlreichen Frauen, insbesondere aus kleineren Städten und ländlichen Gebieten, zugute gekommen.