Aktualisiert am 9. Juni 2026, 14:01 Uhr
Regierung gründet ein KI-Sicherheitsinstitut. (Archivbild)
© Sebastian Gollnow/dpa
Die Bundesregierung will Chancen und Risiken neuer KI-Modelle mit Hilfe eines neuen Gremiums künftig besser einschätzen können. Der Nationale Sicherheitsrat beschloss dazu die Einrichtung eines KI-Sicherheitsinstituts, wie die Regierung mitteilte.
Das neue Institut für Künstliche Intelligenz , das noch keinen Namen hat, ist in der Anfangsphase als virtuelle Institution geplant, wobei Strukturen und Kompetenzen der Bundesnetzagentur und des Bundesamts für Sicherheit in der Informationstechnik (BSI) genutzt werden sollen. In einem zweiten Schritt soll dann ein Standort gefunden werden. Wann das sein wird, steht aber noch nicht genau fest. Ein BSI-Sprecher sagt, mit Blick auf die rasante technologische Entwicklung bei KI sei es den federführenden Ministerien - das sind das Bundesinnenministerium und das Digitalministerium - wichtig, hier zügig voranzukommen.
Zwei Aspekte von Sicherheit stehen im Fokus
In den Blick nehmen soll das Institut KI-Security, also den Schutz vor Angriffen und die Cybersicherheit, aber auch KI-Safety - hier geht es um sichere KI-Produkte, die keine gefährlichen Aktionen auslösen und zum Beispiel keinen Horrorfilm vorschlagen, wenn der Nutzer nach einem Kinderfilm fragt.
Das Institut soll die Kapazitäten zur Analyse der Fähigkeiten moderner KI-Modelle inklusive ihrer Risiken bündeln. Das Institut soll sich ferner stärker mit vergleichbaren ausländischen Instituten austauschen und auf einheitliche Standards im Umgang mit KI mit internationalen Partnern hinwirken.
Zahlreiche Staaten verfügen bereits über solche Institute, in Deutschland nahm bisher das Bundesamt für Sicherheit in der Informationstechnologie Aufgaben in diesem Bereich wahr. Ein internationales Treffen zur Standardisierung von KI-Standards fand etwa im Dezember in der südkoreanischen Hauptstadt Seoul statt, bei dem das BSI vertreten war.
Digitalminister Wildberger: «Experten auf Weltniveau»
Bundesdigitalminister Karsten Wildberger (CDU) kündigte am Rande eines EU-Treffens in Luxemburg an, das KI-Institut solle mit «Top-Expertise von Experten auf Weltniveau» ausgestattet sein. Sie sollen neue Modelle wie etwa Claude Mythos demnach schnell testen, bewerten und die Bundesregierung sowie die Verwaltung dazu beraten. Ein Vorbild sei das britische KI-Sicherheitsinstitut.
Zuletzt sorgte die vom US-Unternehmen Anthropic entwickelte Software Mythos für Aufsehen, da sie in verschiedenen Programmen zum Teil über Jahrzehnte unentdeckt gebliebene Sicherheitslücken fand. Die Bundesregierung erhielt zunächst keinen Zugang zu dem neuen Tool. Das BSI sei in Kontakt mit Anthropic, hieß es vom BSI auf Nachfrage.
Wie der BSI-Sprecher weiter mitteilte, soll die Bundesnetzagentur die zentrale Aufsichtsbehörde für die Durchsetzung der europäischen KI-Verordnung (AI Act) in Deutschland werden. Die Verordnung trat im August 2024 in Kraft, wobei ein Teil der Regelungen ab dem 2. August 2026 verbindlich wird. Kern der Verordnung ist eine Einteilung von KI-Modellen mit allgemeinem Verwendungszweck - dazu zählen etwa Chat-GPT von Open AI oder Gemini von Google - in Risikoklassen, sowie Transparenz- und Kennzeichnungspflichten.
Gesetze zur Versorgung in Krisenzeiten auf dem Prüfstand
Der Sicherheitsrat unter Leitung von Bundeskanzler Friedrich Merz (CDU) befasste sich ferner mit der sicherheitspolitischen Lage im Nahen und Mittleren Osten. Beschlossen wurde zudem, Gesetze zur Versorgung der Bevölkerung und der Streitkräfte mit lebenswichtigen Gütern und kritischer Infrastruktur zu überprüfen und sie an die aktuellen Herausforderungen anzupassen.
Die schwarz-rote Bundesregierung hatte den Nationalen Sicherheitsrat im vergangenen Jahr gegründet, um auf Krisen und Bedrohungen aller Art schnell und effektiv reagieren zu können. Neben Mitgliedern der Bundesregierung und Sicherheitsbehörden können auch Vertreter der Länder eingeladen werden.
© dpa-infocom, dpa:260608-930-192885/3
Read the full article at Die Zeit →📄Source document: Bundesregierung
3 reports
heise onlineIndependentCenter12 days agoThe German federal government has decided to establish an AI security institute to better assess the opportunities and risks associated with modern AI models. The National Security Council approved the creation of this institution, which aims to consolidate expertise in analyzing AI capabilities and their risks. It also plans to collaborate with similar foreign institutions and work toward unified standards for handling AI internationally. Initially, the institute will function as a 'virtual institution,' utilizing existing structures and competencies from the Federal Network Agency and the联邦的
Bias read (Center): The article presents factual information about the establishment of an AI security institute by the German government without apparent ideological framing. It focuses on the structure, purpose, and initial steps of the initiative without showing clear bias towards any political side.
Official sources cited
- government Bundesregierung
- government Nationaler Sicherheitsrat
- organisation Bitkom
- organisation TÜV-Verband
Die ZeitIndependentCenter13 days agoThe German federal government has decided to establish a new institute focused on artificial intelligence (AI) security. The National Security Council approved the creation of the AI Security Institute, which will initially operate as a virtual institution leveraging structures and expertise from the Federal Network Agency and the Federal Office for Information Security (BSI). The institute aims to address two key areas: AI security, focusing on protection against cyber threats, and AI safety, ensuring AI systems do not perform harmful actions such as suggesting inappropriate content.
Bias read (Center): The article presents factual information about the establishment of an AI security institute without overtly favoring any political perspective. It focuses on the structure, purpose, and initial planning of the institute without using biased language or emphasizing particular ideological viewpoints.
Official sources cited
- government German Federal Government Statement
- government Federal Office for Information Security (BSI)
SternParty-alignedCenter13 days agoThe German federal government has established an AI security institute.
Bias read (Center): The article reports on a factual policy decision without apparent ideological framing or biased language. It does not present any particular viewpoint or emphasize one side over another.
Official sources cited
- government Bundesregierung
Germany