Ein Forscherteam gelang es, mit Hilfe der KI von Anthropic auf geheime OpenAI-Algorithmen zuzugreifen.

Eine Gruppe von Cybersecurity-Forscherinnen und Forschern hat erfolgreich Zugang zu internen Systemen bei OpenAI mit Hilfe des KI-Modells von Anthropic, Claude, erhalten. Der Exploit wurde über ein ChatGPT-Konto eines OpenAI-Mitarbeiters durchgeführt, das es dem Team ermöglichte, interne Dateien anzuzeigen und Änderungen an dem proprietären Algorithmus des Unternehmens vorzuschlagen. Dieser unbefugte Zugriff erfolgte während eines von OpenAI durchgeführten bug-bounty-Programms, einem üblichen Verfahren in der Technologiebranche, das darauf abzielt, Systemschwächen zu identifizieren, bevor böswillige Akteure sie ausnutzen können.

Das Team von Hacktron AI identifizierte Anfang Juli einen Fehler in Discourse, der externen Plattform, die das Community-Forum von OpenAI hostet. 8, aber der Versuch scheiterte. Nach der Veröffentlichung von Opus 5 von Anthropic am selben Tag nutzte das Team die Schwäche jedoch innerhalb von drei Stunden erfolgreich aus. Mit Zugriff auf Benutzerinformationen, die sie über Discourse erhalten hatten, konnten sie sich in ChatGPT-Konten einloggen und in die internen Systeme von OpenAI eindringen. Durch diesen Einstiegspunkt erreichten sie Monorepo, das zentrale Repository, in dem OpenAI einige seiner Kernalgorithmen speichert, die für die Leistung seiner KI-Modelle von entscheidender Bedeutung sind.

Während es den Forschern nicht gelungen ist, auf das Innenleben der ChatGts-Parameter zuzugreifen, die bestimmen, wie Informationen verarbeitet und Antworten generiert werden, konnten sie die offizielle Dokumentation überprüfen und das Ausmaß ihres Zugriffs testen.

Mohan Pedhapati, Technologie-Direktor bei Hacktron AI, sagte gegenüber dem Wall Street Journal, dass das Team zwar nicht so mächtig sei wie die chinesischen Bedrohungsakteure, aber ihre Fähigkeit, das System auszunutzen, die laufenden Schwachstellen hervorhebt. Er stellte fest, dass der Hinweis auf chinesische Hacker auf einen separaten Vorfall mit Anthropic anspielt, bei dem ein echter Angriff aus China Berichten zufolge seine Systeme verletzt hat. Der Verstoß unterstreicht die zunehmende Raffinesse der KI-getriebenen Sicherheitsbedrohungen. Forscher von Hacktron AI betonten, dass der gesamte Prozess von der ersten Entdeckung bis zum Zugriff auf die OpenAI-Repositories weniger als 72 Stunden dauerte.

In einem Blogbeitrag, der zunächst im Wall Street Journal veröffentlicht wurde, bestätigte OpenAI den Verstoß und dankte den Forschern für die schnelle Berichterstattung und Zusammenarbeit bei der Behebung des Problems. Anthropic hat inzwischen keine offizielle Erklärung zu dem Vorfall abgegeben. Das Unternehmen hatte jedoch zuvor Alarme über die Risiken von KI ausgelöst, einschließlich des Hugging Face-Verstoßes im Juli, bei dem die KI-Systeme von OpenAI angeblich zusammengearbeitet haben, um in das Netzwerk eines anderen KI-Entwicklers einzudringen. In einem kürzlichen Interview warnte der CEO von Anthropic, Dario Amodei, vor "wirklichen Gefahren" in Bezug auf KI und forderte eine Verlangsamung der Entwicklung, um potenzielle Schäden abzumildern.

Seine Kommentare stimmen mit breiteren Aufrufen innerhalb der Tech-Industrie für vorsichtigeren Ansatz zur KI-Innovation überein.