Hugging Face bestätigt die Verletzung betroffener interner Datensätze und Anmeldeinformationen und fordert die Benutzer auf, Maßnahmen zu ergreifen

Hugging Face bestätigte am Freitag, dass ein kürzlich erfolgter Cyberangriff seine internen Datensätze und Service-Anmeldeinformationen gefährdet hat. Die Verletzung ereignete sich laut dem Unternehmen letzte Woche und es wird derzeit untersucht, ob auf Kunden- oder Partnerdaten zugegriffen wurde. In einem Blogbeitrag erklärte Hugging Face, dass ein auf seine Plattform hochgeladener Datensatz eine Sicherheitslücke ausnutzte, um bösartigen Code auf seinen Servern auszuführen, wodurch Angreifer ihre Privilegien erhöhen und auf breitere Teile der internen Infrastruktur des Unternehmens zugreifen konnten. Das Unternehmen erklärte, dass es die gestohlenen Anmeldeinformationen widerrufen und rotiert hat und die Benutzer auffordert, dasselbe mit allen Schlüsseln zu tun, die sie auf der Plattform gespeichert haben.

Die Nutzer werden auch aufgefordert, ihre Konten auf ungewöhnliche Aktivitäten zu überprüfen. Hugging Face behauptet, die spezifische Schwachstelle, die während des Angriffs ausgenutzt wurde, behoben zu haben. Der Vorfall unterstreicht jedoch die fortlaufende Herausforderung, mit der Organisationen wie Hugging Face konfrontiert sind, wenn Gegner Plattformen und Tools ausnutzen, um auf sensible Informationen zuzugreifen und sie möglicherweise zu stehlen. Hugging Face schrieb den Verstoß einem externen KI-Agenten zu, der zahlreiche Aktionen über mehrere temporäre Sandboxen durchführte. Diese Aktionen beinhalteten selbstmigrierende Befehl- und Kontrolloperationen, die auf öffentlich zugänglichen Diensten gehostet wurden.

Obwohl das Unternehmen von TechCrunch kontaktiert wurde, lieferte das Unternehmen keine unmittelbaren Beweise für diese Behauptung. Der Verstoß wurde durch das eigene Anomalieerkennungssystem von Hugging Face erkannt, das Serverprotokolle mit einem KI-Modell analysierte. Zunächst versuchte das Unternehmen, ein Frontier-KI-Modell eines kommerziellen Anbieters zu verwenden, um die Protokolle zu analysieren. Diese Bemühungen wurden jedoch durch die Einschränkungen des Anbieters behindert.

Sicherheits-Experten haben Bedenken hinsichtlich bestimmter Frontier-Modelle wie Anthropic's Mythos und Fable geäußert, die strenge Einschränkungen auferlegen, die Cybersicherheitsuntersuchungen behindern können. Diese Modelle waren Gegenstand von Streitigkeiten mit der Trump-Administration, insbesondere in Bezug auf ihren potenziellen Einsatz in offensiven Cyberoperationen.

Der Vorfall wirft wichtige Fragen über die Sicherheitspraktiken von Plattformen auf, die KI-Modelle und Datensätze hosten, insbesondere angesichts der zunehmenden Raffinesse von Cyber-Bedrohungen, die solche Umgebungen ansprechen.