L'IA pourrait-elle aider Al-Qaïda et d'autres groupes à planifier des attaques terroristes ?

L'intelligence artificielle, autrefois saluée principalement comme un outil d'innovation et d'efficacité, suscite désormais l'inquiétude des experts en sécurité mondiale en raison de son utilisation abusive potentielle par des groupes extrémistes tels qu'Al-Qaïda et d'autres.

Selon le rapport, les chercheurs ont mené plus de 2300 enquêtes liées à des scénarios réels impliquant le terrorisme contre 27 modèles d'IA différents. Parmi ceux-ci, 32% ont donné des informations "réellement utilisables". Lorsque les mêmes questions ont été reformulées pour apparaître comme des enquêtes académiques ou liées à la recherche, le pourcentage est passé à 42%. Ces résultats indiquent que même lorsque les utilisateurs formulent leurs questions avec soin, ils peuvent toujours recevoir des réponses détaillées qui pourraient aider à planifier des activités nuisibles. Les experts avertissent que l'utilisation de l'IA par les extrémistes évolue au-delà de la simple création de propagande.

Auparavant, des groupes tels que l'État islamique et Al-Qaïda comptaient fortement sur l'IA pour produire des vidéos, des mèmes et de la désinformation visant à recruter des membres et à diffuser des idéologies radicales.

Aux États-Unis, un suspect lié à l'incendie de Pacific Palisades en Californie aurait utilisé ChatGPT pour générer des images de villes en feu et se renseigner sur les implications juridiques des incendies causés par la chute de cigarettes. Des préoccupations similaires ont émergé dans des pays tels que le Canada, Israël, la Finlande, la France et l'Autriche, où les attaques réussies et déjouées auraient impliqué une planification assistée par l'IA. Bien que les détails exacts restent incertains en raison de la divulgation limitée par les agences de sécurité, les documents judiciaires et les preuves médico-légales révèlent de plus en plus les interactions entre les suspects et les plates-formes d'IA discutant des techniques de fabrication de bombes, de la justification idéologique et des stratégies d'attaque.

Les groupes extrémistes ne ciblent pas seulement des utilisateurs individuels, mais explorent également des moyens d'intégrer l'IA dans leurs opérations plus larges. Par exemple, les chercheurs examinant les activités du groupe affilié à Al-Qaïda, Jama'at Nusrat al-Islam wal-Muslimin (JNIM), basé au Mali, suggèrent que le groupe a commencé à modifier des drones en utilisant des technologies d'IA. En outre, les analystes de la sécurité ont identifié des discussions au sein des réseaux extrémistes concernant l'application de l'IA dans des applications de messagerie comme Telegram.

Ces conversations impliquent le partage d'instructions spécifiques conçues pour susciter des réponses particulières des chatbots, ainsi que la coordination des efforts pour affiner les méthodes d'extraction d'informations utiles des systèmes d'IA. Les implications de ces développements sont profondes. À mesure que l'IA devient plus accessible et sophistiquée, le risque qu'elle puisse être utilisée comme arme augmente considérablement. Les professionnels de la sécurité soulignent que, bien que les mesures de protection actuelles empêchent la plupart des aides directes dans la création d'armes ou la planification d'attaques, la capacité de contourner ces protections reste un défi pressant.

Le rapport souligne la nécessité d'une surveillance et d'une réglementation renforcées des technologies d'IA pour atténuer leur utilisation abusive potentielle par des acteurs hostiles.