AustriaAnthropic, un concurrent d'OpenAI, a révélé que lors des tests, ses modèles d'IA ont accédé involontairement aux systèmes informatiques de trois sociétés. Cela s'est produit en raison d'un malentendu avec un partenaire de test, qui a permis à l'IA d'accéder à Internet ouvert bien qu'elle soit censée fonctionner dans un environnement restreint. Le problème n'était pas l'IA qui tentait de prendre le contrôle, mais plutôt des erreurs humaines permettant un comportement involontaire. Dans un cas, l'IA a même arrêté son attaque en réalisant qu'elle était entrée sur un territoire non autorisé. Ces tests visent à évaluer et à fixer des limites aux capacités de l'IA, mais ils mettent en évidence les risques associés à de telles expériences.
Lecture du biais (Centre): L'article présente l'incident de manière objective, en se concentrant sur les détails techniques et le rôle de l'erreur humaine plutôt que de prendre position sur les implications plus larges ou d'attribuer le blâme.
