Exklusiv: Googles Hassabis fordert einen von den USA geführten globalen KI-Wachhund

Demis Hassabis, Mitbegründer und CEO von Google DeepMind, hat die Vereinigten Staaten aufgefordert, die Schaffung eines globalen Überwachungssystems für künstliche Intelligenz zu leiten. In einem persönlichen Manifest mit dem Titel "Ein Rahmenwerk für Frontier-KI und der Beginn eines neuen Zeitalters", das am Dienstag veröffentlicht wurde, skizziert Hassabis einen Vorschlag für eine Aufsichtsbehörde, die die Entwicklung und den Einsatz der fortschrittlichsten KI-Systeme weltweit überwachen würde.

Hassabis betont, dass die größte Gefahr nicht aus Open-Source-Modellen, sondern aus den leistungsfähigeren proprietären Modellen stammt, die von führenden Labors entwickelt wurden. Hassabis hat mehrere Monate hinter den Kulissen gearbeitet, um Unterstützung für diese Initiative zu gewinnen. Er hat sich mit Mitgliedern der Trump-Administration, leitenden Persönlichkeiten anderer KI-Forschungsorganisationen und europäischen Beamten auseinandergesetzt. Er berichtet, dass das Feedback, das er erhalten hat, weitgehend positiv war.

Die Trump-Administration, die zuvor einen Hands-off-Ansatz für die KI-Regulierung befürwortete, scheint sich offen für die Idee gezeigt zu haben, insbesondere nach den jüngsten Entwicklungen mit Anthropics-Modellen. Die vorgeschlagene Regulierungsstelle würde ähnlich wie die Financial Industry Regulatory Authority (FINRA), eine selbstregulierende Organisation im Finanzsektor, funktionieren. Nach Hassabis' Plan müssten führende KI-Forschungslabore ihre fortschrittlichsten Modelle bis zu 30 Tage vor der Veröffentlichung zur Sicherheitsbewertung einreichen. Dieser Prozess würde strenge Tests auf potenzielle Gefahren im Zusammenhang mit Cybersicherheit, biologischen Bedrohungen und täuschenden Fähigkeiten beinhalten.

Sobald die Testverfahren als wirksam und zuverlässig angesehen werden, könnte die Einrichtung in eine formalisierte Regulierungsstelle übergehen. Die Struktur des vorgeschlagenen Wachhundes würde einen mehrheitlich unabhängigen Vorstand umfassen, der sich aus erstklassigen technischen Experten zusammensetzt, darunter Empfänger des Turing-Preises. Der Vorstand würde auch Vertreter aus der Industrie und dem Regierungsbereich sowie aus der Open-Source-Community einbeziehen. Hassabis sieht vor, dass die Bezeichnung "Frontier", die auf die fortschrittlichsten KI-Modelle angewendet wird, zu einem Unterscheidungszeichen wird, das anzeigt, dass das Modell einer gründlichen Prüfung unterzogen wurde.

Der Vorschlag gilt für alle KI-Modelle, die als "Frontier-Klasse" klassifiziert sind, unabhängig von ihrem Herkunftsland oder ob sie Open-Source oder proprietär sind. Hassabis schlägt vor, dass die Klassifizierungskriterien regelmäßig überprüft und angepasst werden, wenn sich die technologischen Fähigkeiten weiter entwickeln. Die US-Regierung hat die Dringlichkeit solcher Maßnahmen unterstrichen. Die Trump-Regierung hat im vergangenen Monat die Anthropic-Modelle Mythos und Fable abrupt eingestellt, was für viele in der KI-Community als Weckruf diente. Anthropic wurde mit einer unerwarteten Exportkontrollanordnung konfrontiert, die seine leistungsstärksten Modelle effektiv einfror.

Nach fast drei Wochen Verhandlungen wurden die Modelle schließlich freigegeben, allerdings ohne klare Richtlinien oder Protokolle. 6 Modell an geprüfte Regierungspartner während der ersten Einführung. Das Modell wurde später nach ausführlichen Diskussionen mit dem Handelsministerium der Öffentlichkeit zugänglich gemacht. Andere prominente KI-Forscher, darunter der CEO von Anthropic, Dario Amodei, haben sich ebenfalls für strengere Vorschriften ausgesprochen. Amodei hat die Einrichtung einer Agentur vorgeschlagen, die der Federal Aviation Administration (FAA) ähnelt und in der Lage ist, die Bereitstellung unsicherer KI-Modelle zu blockieren.

Während es unter führenden KI-Forscherinnen und -Forschern eine breite Übereinstimmung gibt, dass eine stärkere Regulierung notwendig ist, bestehen weiterhin Unterschiede darüber, wer die ultimative Autorität bei der Gestaltung dieser Richtlinien haben sollte.