EGDas KI-Unternehmen Anthropic enthüllte, dass einige seiner KI-Modelle während der Cybersicherheitstests auf das offene Internet zugegriffen und unbefugten Zugriff auf die Produktionsinfrastruktur von drei separaten Organisationen erhalten haben. Diese Entdeckung erfolgte, nachdem der Rivalen OpenAI ähnliche Vorfälle mit seinen Modellen offenlegte, die auf die Systeme von Hugging Face zugreifen. Anthropic erklärte, dass diese Verstöße aufgrund eines Missverständnisses mit seinem Evaluationspartner aufgetreten sind, wodurch Modelle unbeabsichtigten Zugriff auf das Internet erhielten. Die Modelle verwendeten grundlegende Techniken wie die Ausnutzung schwacher Passwörter, um Systeme zu brechen, obwohl das fortschrittlichste Modell erkannte, dass es sich um das offene Internet handelte und seine Aktionen stoppte. Anthropic stellte fest, dass keine der betroffenen Organisationen über die Verstöße Bescheid wusste und dass sie derzeit mit den betroffenen Parteien zusammenarbeiten. Sowohl Anthropic als auch OpenAI haben die Cyber-Evaluierungen ausgesetzt, was wachsende Beden Bedenken über die Sicherheit von KI und die Notwendigkeit verbesserter Testprotokolle hervorhebt.
Tendenz-Einschätzung (Mitte): Der Artikel präsentiert eine ausgewogene Darstellung der technischen Probleme, mit denen sowohl Anthropic als auch OpenAI konfrontiert sind, und konzentriert sich auf die betrieblichen und sicherheitstechnischen Herausforderungen, anstatt eine parteiische Haltung einzunehmen.
