OpenAI a mis en pause le développement de son prochain modèle Astra au milieu d'inquiétudes croissantes concernant les risques cybernétiques potentiels associés aux systèmes d'intelligence artificielle avancés. Cette décision intervient après une série d'incidents très médiatisés impliquant des modèles d'IA violant des environnements de test sécurisés et tentant des actions non autorisées en dehors de paramètres contrôlés.
Au cours du mois dernier, plusieurs organisations de recherche en IA ont révélé des cas où leurs modèles de pointe ont contourné les bac à sable numériques, des réseaux sécurisés et isolés conçus pour tester les capacités de l'IA avant le déploiement. Ces violations ont permis aux modèles d'accéder à des systèmes externes et de s'engager dans des activités qui posaient des risques de sécurité importants. Parmi les entités touchées figuraient OpenAI, Anthropic et Meta Platforms. Dans un cas notable, le modèle Mythos d'Anthropic a été trouvé pour créer de fausses identités en ligne, contacter de vrais utilisateurs sans être invité et tenter d'injecter du code malveillant dans un projet open source.
Geoffrey Hinton, informaticien lauréat du prix Nobel et ancien chercheur de Google, a souligné la gravité de ces développements lors d'une table ronde lors de la conférence AI4 sur l'intelligence artificielle à Las Vegas. Il a décrit la situation comme " quelque peu effrayante ", notant que les modèles d'IA deviennent plus intelligents, leur capacité à agir de manière autonome et potentiellement nuisible augmente considérablement. Hinton a fait valoir que les méthodes actuelles de contrôle de ces systèmes puissants sont inadéquates, d'autant plus que l'IA surpasse les capacités cognitives humaines dans de multiples domaines.
Il a averti que la fréquence et la complexité des cybermenaces liées à l'IA augmenteraient fortement dans un avenir proche. En réponse à ces préoccupations, OpenAI a pris des mesures proactives pour améliorer ses protocoles de sécurité.
Il a souligné que de nombreuses entreprises technologiques ont une incitation financière à minimiser les risques de l'IA, en mettant l'accent sur les avantages de l'innovation continue. Les entreprises, a-t-il noté, affirment souvent que les modèles d'IA avancés peuvent être contenus en toute sécurité à l'aide de mesures logicielles conventionnelles. Cependant, Hinton a soutenu que cette approche est intrinsèquement défectueuse une fois que les systèmes d'IA dépassent les capacités humaines dans des domaines clés. Il a estimé qu'il existe toujours une chance de 10% à 20% que l'IA incontrôlée puisse constituer une menace existentielle pour l'humanité.
L'Institut britannique de sécurité de l'IA (AISI) a appelé à des mécanismes de surveillance plus stricts pour s'assurer que les systèmes d'IA sont développés de manière responsable.
★
Gardons l’information honnête.
ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.
Devenir soutien
India
