EU assesses consequences and warns USA

Künstliche Intelligenz

Die große Mythos-Panik: China soll Zugriff auf mächtiges KI-Modell gehabt haben

Eine Sperranordnung der US-Regierung führt zu einer verfahrenen Situation, in die sich alle Beteiligen ordentlich selbst hinein geredet haben und die schwer auflösbar scheint

Andreas Proschofsky

Auf gewisse Weise hat sich Anthropic die aktuelle Situation selbst eingebrockt: Nachdem man in den vergangenen Wochen immer wieder betont hat, dass ein neues KI-Modell aus eigener Entwicklung zu gefährlich für die Veröffentlichung sei, nehmen die US-Behörden das Unternehmen nun beim Wort. Am Samstag wurde der Zugriff auf die aktuellen Anthropic-Modelle Fable 5 und Mythos 5 nach einer Anordnung der US-Regierung vollständig deaktiviert – der STANDARD berichtete .

Auch China soll Mythos in die eigenen Finger bekommen haben.

Warnungen

Interessant ist aber, was sich im Vorfeld abgespielt haben soll, und jetzt öffentlich wird. Wie bereits am Sonntag durchsickerte, soll es ausgerechnet Amazon-Chef Andy Jassy gewesen sein , der die US-Regierung über einen angeblichen Jailbreak im (zuvor) öffentlich verfügbaren Fable 5 informiert hat. Über diesen könnten sich die vollen Cybersecurity-Fähigkeiten des zugrunde liegenden und derzeit nur für ausgewählte Firmen und Institutionen vorgesehenen Mythos-Modells nutzen lassen, hieß es. Bemerkenswert ist das auch deswegen, da Amazon einer der zentralen Partner und Investoren von Anthropic ist.

Doch wie Semafor berichtet , könnte es noch einen anderen Grund für die US-Notbremse gegeben haben. Demnach soll es China gelungen sein, auf Mythos zuzugreifen. Das ließ nach den dramatischen Erzählungen der vergangenen Wochen natürlich die Alarmglocken läuten, sieht man dadurch doch die nationale Sicherheit der USA bedroht. Die Angst: China könnte mithilfe von Mythos Sicherheitslücken in kritischer Infrastruktur finden, bevor das die USA selbst tut – und sie somit nicht zeitgerecht schließen kann.

Was wirklich stimmt

Der reale Hintergrund: Tatsächlich sind KI-Modelle zuletzt deutlich besser beim Aufspüren und Ausnutzen von Sicherheitslücken geworden. Was in der Debatte aber übersehen wird: Auch wenn Mythos dabei offenbar das derzeit mächtigste Modell für diese Aufgaben ist, ist es nicht das einzige. So soll etwa GPT 5.5 Cyber nicht weit dahinter liegen, und natürlich werden auch andere Modelle rasch besser.

Ein anschauliches Beispiel liefert dafür übrigens Anthropic selbst. Mit dessen – weiterhin verfügbarem – Opus 4.8 wurde gerade eine kritische Lücke in der Kryptowährung Zcash gefunden, die offenbar jahrelang unbemerkt geblieben war. Über diese ließ sich eine unbegrenzte Zahl an Tokens für Zcash erzeugen. Also genau die Art Lücke, die zuletzt die Finanzbranche und Teile der Politik dazu gebracht hat, apokalyptische Warnungen vor Mythos auszusprechen.

Eine Frage der Perspektive

Interessanterweise kommt dabei fast nie die positive Sicht zur Erwähnung: Nämlich, dass in dieser Hinsicht bessere KI-Modelle auch dabei helfen könnten, sehr früh Sicherheitslücken zu entdecken, die sonst jahrelang unentdeckt geblieben wären. Und damit die Sicherheitslage mittel- bis langfristig sogar besser werden könnte. Dass es auf dem Weg dorthin ziemlich ungemütlich werden könnte, ist allerdings ebenfalls unbestritten – hat sich die Branche über die schlechte Wartung vieler Geräte aber auch selbst eingebrockt.

Was ebenfalls nie zur Sprache kommt: Will die USA nicht jedes neue Modell für alle Zeiten sperren, ist das die neue Realität, auf die man sich einstellen muss. Immerhin ist – wie erwähnt – davon auszugehen, dass andere KI-Anbieter bald nachziehen in dieser Hinsicht – und das nicht mal notwendigerweise absichtlich. So sollen auch die Fähigkeiten von Mythos in Hinblick auf Cybersecurity gar nicht gezielt entwickelt worden sein. Sie sind ein Nebenprodukt genereller Verbesserungen im Hinblick auf Coding.

Eine Black Box

Die nicht zuletzt durch das Desaster-Marketing von Anthropic aufgeschreckte Politik wird sich aber noch einer anderen Realität stellen müssen: Dass es nicht so einfach ist, einer KI solche Fähigkeiten auszutreiben, ohne sie in anderen Bereichen auch sehr viel schlechter zu machen. Das hängt auch damit zusammen, dass bis heute nicht so einfach zu sagen ist, warum solch ein großes Sprachmodell (LLM) das kann, was es kann. Vieles bleibt selbst für die Entwickler eine "Black Box".

Die Hersteller versuchen unerwünschte Fähigkeiten entsprechend über externe Regeln zu blockieren, im Modell bleiben sie aber erhalten. Das bedeutet aber auch: Wer weiß, wie sich diese Regeln austricksen lassen, kann auch die "unerwünschten" Fähigkeiten nutzen. Das ist auch keine neue Erkenntnis, solche Jailbreaks gehören zur bekannten Realität aktueller KI-Systeme und werden sich auch nie ganz verhindern lassen. Darauf verweist übrigens auch Anthropic selbst.

Beschränkungen

Erwähnt sei noch, dass der Start von Fable 5 auch sonst ziemlich holprig verlaufen ist. Denn so stark das Mode…