L'UNICEF estime que 20 millions d'enfants ont été victimes d'abus sexuels en ligne en un an.

MANILA, Philippines, Un législateur philippin s'inquiète que les algorithmes de médias sociaux de plus en plus complexes soient conçus pour garder les utilisateurs engagés, mettant par inadvertance les mineurs en danger en les exposant à des contenus inappropriés pour leur âge. Cet avertissement intervient alors que l'attention portée à la sécurité des enfants en ligne s'accroît à la suite de l'augmentation de la violence liée à l'école. Selon un rapport récent de l'UNICEF, environ 20 millions d'enfants utilisant Internet dans 21 pays ont subi une forme d'exploitation ou d'abus sexuels sur les plateformes numériques en un an.

La majorité de ces cas se sont produits sur les plateformes de médias sociaux, plus d'un enfant sur cinq âgé de 12 à 17 ans en Afrique, en Asie, en Amérique latine et en Europe de l'Est ayant subi au moins une forme d'abus ou d'exploitation sexuels sur les plateformes en ligne l'année précédant l'enquête.

Le rapport suggère que le nombre réel d'enfants touchés dans le monde pourrait être de plusieurs dizaines de millions. Près de 60% des abus signalés se sont produits sur les plateformes de médias sociaux, principalement Facebook, WhatsApp, Instagram, Snapchat et TikTok, tandis que 14% ont eu lieu dans des environnements de jeu en ligne. Le rapport note que la conception et les fonctionnalités de ces plateformes facilitent souvent l'exploitation en permettant aux auteurs de cacher leur identité ou de manipuler les interactions.

Meta, la société mère de Facebook, WhatsApp et Instagram, a reconnu que les enquêtes couvraient une période avant que l'entreprise n'implante plusieurs mesures de protection recommandées par l'UNICEF, telles que la définition par défaut des comptes d'adolescents en privé et le blocage des messages d'adultes inconnus. Cependant, Meta a souligné qu'elle continuait à lutter contre l'exploitation des enfants sur ses plateformes et soutenait les efforts d'application de la loi.

Snapchat a fait référence à un article de blog de sa directrice mondiale de la sécurité de la plate-forme, Jacqueline Beauchere, indiquant que la société travaille activement à la prévention de l'extorsion sexuelle en ligne grâce à la détection proactive, à la suppression de comptes, à des outils de signalement des utilisateurs et à des fonctions de sécurité visant à protéger les utilisateurs vulnérables. TikTok a mentionné qu'elle avait développé de multiples mesures de protection pour protéger les mineurs, notamment des restrictions sur certaines fonctionnalités pour les plus jeunes utilisateurs, des paramètres de confidentialité par défaut pour les moins de 18 ans et des technologies permettant d'identifier les comportements potentiellement prédatrices.

Ces développements ont soulevé des inquiétudes supplémentaires quant à l'utilisation abusive potentielle de l'IA pour faciliter les abus. Selon les résultats, plus de la moitié des cas concernaient quelqu'un que l'enfant connaissait déjà, y compris des amis, des parents ou des partenaires amoureux, tandis que 38% des enfants ont rencontré pour la première fois l'auteur en ligne. Moins de 1% des cas ont été signalés aux autorités, soulignant le défi d'identifier et de traiter efficacement ces problèmes.

La directrice exécutive de l'organisation, Catherine Russell, a noté la réalité douloureuse révélée par le rapport, soulignant la nécessité urgente d'agir pour protéger les enfants de l'exposition à des contenus nocifs dans les espaces numériques où ils apprennent, jouent et interagissent avec leurs amis. Le rapport indique que les enfants qui subissent une exploitation sexuelle facilitée par la technologie font face à des risques accrus d'automutilation, certains présentant une probabilité significativement accrue de pensées ou de comportements suicidaires par rapport à leurs pairs.

Malgré ces statistiques alarmantes, le rapport révèle également que plus de 40% des cas d'abus facilités par la technologie n'ont jamais été partagés avec qui que ce soit, soulignant la réticence des victimes à demander de l'aide. Le faible taux de signalement aux autorités complique davantage les efforts pour traiter le problème de manière globale. À mesure que le paysage numérique évolue, le rôle des plateformes de médias sociaux dans la formation des expériences des jeunes utilisateurs devient de plus en plus critique. Avec la prolifération de l'IA et le raffinement continu des algorithmes, le défi de garantir des environnements en ligne sûrs pour les enfants devient de plus en plus complexe.