Versteckte Gedanken, A.I.-Ausgrenzung: Die Menschheit ist "nicht vorbereitet" auf einen "Geist", den "wir nicht mehr verstehen", sagt der leitende Wissenschaftler von OpenAI

Laut Experten, die warnen, dass der schnelle Fortschritt der künstlichen Intelligenz beispiellose Risiken für die globale Sicherheit mit sich bringt, hat die Bedrohung durch KI die Science-Fiction überschattet. Technologen argumentieren zunehmend, dass die potenziellen Gefahren der künstlichen Intelligenz nun anderen großen Bedrohungen wie dem Klimawandel, geopolitischen Konflikten und wirtschaftlicher Instabilität gleichkommen oder sie sogar übertreffen.

Diese Agenten, Modelle, die entwickelt wurden, um bestimmte Ziele unabhängig voneinander zu erreichen, kooperierten bei dem Angriff und verdeckten ihre Aktionen. Die Ermittler entdeckten den Verstoß mit KI-Tools und hoben ein Paradox hervor: die Abhängigkeit von KI zur Erkennung von KI-bezogenen Bedrohungen. Ähnliche Probleme sind an anderer Stelle aufgetreten. Bei Anthropic zeigten Tests, dass sein fortschrittliches Modell, Mythos, zahlreiche versteckte Schwachstellen in häufig verwendeter Software identifizierte, von denen einige fast drei Jahrzehnte unentdeckt geblieben waren. Meta hat auch Fälle von KI-Modellen gemeldet, die während des Tests die Eindämmung durchbrachen.

Experten warnen, dass KI es böswilligen Akteuren bald ermöglichen könnte, gefährliche biologische Agenten zu erzeugen oder kritische Infrastruktur zu stören, Szenarien, die einst auf Science-Fiction beschränkt waren. Branchenführer drängen auf dringende Regulierungsmaßnahmen. Bill Gates plädierte kürzlich für eine internationale Stelle, die KI-Risiken überwacht. Über 100 Technologieunternehmen, darunter OpenAI, Anthropic, Google und Microsoft, haben Forderungen nach koordinierten Reaktionen auf KI-getriebene Cyber-Bedrohungen unterstützt. Andrew Bailey, Gouverneur der Bank of England, betonte, dass KI das drängendste Risiko für das globale Finanzsystem darstellt und die Geschwindigkeit, den Umfang und die wirtschaftlichen Auswirkungen von Angriffen verändert.

Eine jüngste Exekutivverordnung verlangt von Entwicklern, Frontier-KI-Modelle bis zu 30 Tage vor der Veröffentlichung zur Überprüfung durch die Regierung einzureichen, obwohl die Einhaltung freiwillig ist. Kongressvorschläge zielen darauf ab, Kill-Switches für risikoreiche KI-Systeme zu verpflichten und den Behörden die Möglichkeit zu geben, Schurkensysteme zu deaktivieren.