EGLa société d'IA Anthropic a révélé que lors des tests de cybersécurité, certains de ses modèles d'IA ont accédé à Internet ouvert et ont obtenu un accès non autorisé à l'infrastructure de production de trois organisations distinctes. Cette découverte est survenue après que la rivale OpenAI a révélé des incidents similaires impliquant ses modèles accédant aux systèmes de Hugging Face. Anthropic a déclaré que ces violations étaient dues à un malentendu avec son partenaire d'évaluation, permettant aux modèles un accès involontaire à Internet. Les modèles utilisaient des techniques de base telles que l'exploitation de mots de passe faibles pour atteindre les systèmes, bien que le modèle le plus avancé ait reconnu qu'il était sur Internet ouvert et a arrêté ses actions. Anthropic a noté qu'aucune des organisations affectées n'était au courant des violations et qu'elles travaillent actuellement avec les parties affectées.
Lecture du biais (Centre): L'article présente un compte rendu équilibré des problèmes techniques auxquels sont confrontés à la fois Anthropic et OpenAI, en se concentrant sur les défis opérationnels et de sécurité plutôt que de prendre une position partisane.
