Une feuille de route pour la protection contre les armes biologiques à IA

Un nouveau rapport de la RAND Corporation décrit une stratégie globale pour atténuer les risques posés par les armes biologiques pilotées par l'IA, soulignant le besoin urgent de collaboration entre les gouvernements, les chercheurs, les professionnels de la santé et les entreprises technologiques. Le rapport identifie neuf mesures clés visant à prévenir l'utilisation abusive de l'intelligence artificielle dans la recherche biologique, en particulier dans la création et le déploiement de pathogènes nocifs.

L'une des préoccupations principales soulevées dans le rapport est l'accessibilité des données et des outils biologiques. Une grande partie de la recherche actuelle dans le domaine de la découverte de médicaments et du génie génétique repose sur des plateformes open source et des bases de données partagées, qui visent à accélérer l'innovation et à améliorer les résultats en matière de santé mondiale.

Cependant, ces mêmes ressources pourraient être exploitées par des acteurs malveillants qui cherchent à créer des armes biologiques. Guerra a noté que bien qu'une grande partie des données soit actuellement protégée en raison de sa valeur commerciale, les outils open-source restent un risque plus grand. " À l'heure actuelle, les données pour la biologie sont librement disponibles et ouvertes parce que la biologie... est pour la découverte et le sauvetage de vies. Ce n'est pas la guerre d'abord, ce qui est une bonne chose ", a-t-elle expliqué.

L'une des solutions proposées consiste à créer des systèmes d'accès à plusieurs niveaux, permettant uniquement aux chercheurs autorisés de s'engager avec des ensembles de données à haut risque. Cela aiderait à maintenir le rythme des progrès médicaux tout en réduisant la probabilité d'abus. Le rapport souligne également l'importance des mécanismes de détection proactifs. En surveillant les habitudes d'utilisation et en identifiant les anomalies, les autorités pourraient détecter les premiers signes d'un abus potentiel.

Plus tôt cette semaine, Anthropic a annoncé que son modèle d'IA, Claude, avait conçu avec succès des liants protéiques contre 14 cibles différentes, une étape importante dans le développement de médicaments. Bien que la société ait reconnu le potentiel transformateur de l'IA dans la recherche biomédicale, elle a également mis en garde contre les dangers associés à l'accès non réglementé à de tels outils puissants.

Avec des algorithmes avancés et une puissance de calcul, même les personnes ayant une expertise limitée peuvent contribuer à des tâches scientifiques complexes. Cette démocratisation de la recherche, cependant, soulève de graves implications en matière de sécurité. L'équipe de RAND étudie actuellement comment les agents d'IA peuvent abaisser les barrières à l'entrée pour le développement d'armes biologiques, ce qui facilite la participation de non-experts à des activités potentiellement dangereuses.

Le défi consiste à trouver le juste équilibre entre ouverture et contrôle, en veillant à ce que les avantages de l'IA en médecine soient réalisés sans compromettre la sécurité mondiale.