Qu'est-il arrivé à Almendralejo, le premier grand cas de deepfake qui a déshabillé des mineurs avec une intelligence artificielle

En septembre 2023, une petite ville de la province de Badajoz nommée Almendralejo est devenue l'épicentre du premier cas majeur en Espagne impliquant une technologie de deepfake utilisée pour générer du contenu explicite mettant en vedette des mineurs. L'incident impliquait un groupe d'adolescents âgés de 13 à 15 ans qui ont manipulé des images réelles de leurs camarades de classe en utilisant un logiciel généré par l'IA pour créer des photos nues simulées. Ces images ont ensuite été largement partagées via des applications de messagerie telles que WhatsApp et Telegram.

L'affaire a été portée à l'attention du public par Miriam Al Adib, gynécologue et éducatrice sexuelle basée à Almendralejo. En tant que mère elle-même, elle s'est retrouvée dans une situation difficile lorsque sa fille est devenue l'une des victimes. Al Adib a agi en créant une vidéo qui est devenue virale en ligne, attirant l'attention nationale et le soutien de la communauté.

Selon les rapports, le parquet espagnol a classé l'incident dans les crimes contre l'intégrité morale et la divulgation non autorisée de secrets. Ce cadre juridique a permis des demandes d'indemnisation pour les dommages émotionnels subis par les victimes. Au total, 22 plaintes formelles ont été déposées à la suite de l'incident. L'affaire a marqué un tournant dans la législation espagnole et européenne concernant la réglementation de la pornographie générée par l'IA et du harcèlement numérique. Les répercussions de l'affaire Almendralejo se sont étendues au-delà des frontières locales, influençant les discussions politiques aux niveaux supérieurs du gouvernement.

Il a accéléré les efforts pour modifier le code pénal espagnol afin de criminaliser explicitement la pornographie générée par l'IA et l'intimidation numérique. Des mesures législatives récentes comprennent des lois visant à protéger le droit à la vie privée et à la dignité des individus, avec des dispositions spécifiques visant l'exploitation des mineurs par le biais de ces technologies. Au niveau européen, l'incident a incité l'UE à prendre des mesures décisives. En mai, l'Union a accepté d'interdire la vente, le déploiement et l'utilisation de systèmes d'IA capables de générer des faux profonds sexuels sur tout son territoire.

Cette décision fait suite à l'initiative prise par le gouvernement espagnol après le scandale d'Almendralejo, soulignant le besoin urgent de mesures préventives et de conséquences juridiques contre de telles pratiques.

Le cas Almendralejo a laissé des impressions durables sur la communauté, mettant en évidence l'interaction complexe entre l'innovation technologique, les cadres juridiques et les réponses sociétales aux menaces émergentes. Alors que les nouvelles réglementations visent à relever ces défis, la discussion en cours sur l'éthique numérique et la protection des jeunes continue d'évoluer, façonnée par des incidents comme celui-ci.