Les laboratoires d'intelligence artificielle ne veulent toujours pas dire comment ils pourraient contenir un modèle malhonnête.

Selon un nouveau rapport de Guidelight AI Standards, aucun des principaux laboratoires d'IA n'a publié publiquement de plans de réponse détaillés, des plans qui décrivent les mesures à prendre si un système d'IA commence à agir en dehors du contrôle humain.

Le rapport a évalué cinq grandes organisations de recherche en IA, Anthropic, Google, OpenAI, Meta et xAI, sur la base d'informations publiquement disponibles concernant leurs protocoles de sécurité. Guidelight, une organisation axée sur la promotion du développement responsable de l'IA, a évalué chaque laboratoire selon plusieurs critères, notamment des mécanismes de surveillance internes, des procédures pour arrêter les comportements problématiques, des audits tiers et des stratégies d'urgence spécifiques pour faire face à des activités d'IA non contrôlées. OpenAI a reçu le score le plus élevé parmi le groupe, tandis que Meta et Anthropic ont été classés les plus bas. Les résultats soulignent une lacune critique dans l'approche de l'industrie en matière de sécurité de l'IA.

Bien que de nombreuses entreprises aient défini des processus de test conçus pour identifier les comportements nocifs avant le déploiement, il y a beaucoup moins de discussions publiques sur ce qui se passe une fois qu'un modèle est déjà en fonctionnement et se comporte potentiellement de manière imprévisible. Cette omission soulève des questions sur la préparation de ces entreprises à gérer des scénarios réels impliquant des systèmes d'IA qui pourraient agir au-delà des paramètres prévus.

Il a souligné qu'un plan de confinement robuste doit inclure des actions prédéfinies telles que la révocation de certaines autorisations, la limitation des opérations du modèle à des utilisateurs ou des tâches spécifiques et la fixation de seuils clairs pour le moment où le système devrait être complètement mis hors ligne. "Chaque fois que les modèles effectuent des travaux pour le compte de l'entreprise, l'entreprise devrait avoir un échafaudage autour d'elle pour pouvoir dire ce que cette IA fait", a expliqué Adler. "Le rapport souligne que les stratégies de confinement actuelles sont largement laissées aux entreprises individuelles, avec peu d'approches normalisées ou de cadres accessibles au public.

Alors que certaines entreprises ont commencé à discuter d'initiatives de sécurité plus larges, les détails de la réponse d'urgence restent incertains. Un porte-parole de Google a reconnu que le rapport Guidelight ne reflète pas l'étendue des mesures de sécurité internes de l'entreprise, bien que l'entreprise ait refusé de commenter directement si elle maintient des protocoles de confinement non divulgués. De même, un représentant d'OpenAI a déclaré que l'évaluation ne couvrait pas toutes les pratiques internes de l'entreprise, laissant place à des spéculations sur l'étendue de leur préparation.

Alors que l'IA d'agence est de plus en plus intégrée aux systèmes d'entreprise, l'absence de plans de confinement transparents pose des défis à la fois éthiques et pratiques.