Die KI-Bedrohung hält Wissenschaftler nachts wach

Ein führender KI-Forscher bei Anthropic hat gewarnt, dass künstliche Intelligenz alle Menschen innerhalb eines Jahrzehnts töten könnte, was dringende Bedenken hinsichtlich der Risiken durch fortgeschrittene KI-Systeme auslöst. Sein Rücktritt folgte auf eine öffentliche Bestätigung durch Anthropic's eigene Alignment-Leiterin, die die Wahrscheinlichkeit einer KI, die die Menschheit innerhalb von zehn Jahren auslöscht, auf über 10% schätzte. Trotz dieser Warnungen gibt es nach wie vor keine zuverlässige Methode, um sicherzustellen, dass superintelligente KI-Systeme mit der menschlichen Sicherheit übereinstimmen. Coxons Abgang unterstreicht ein wachsendes Unbehagen innerhalb der KI-Community.

Er zitierte ethische Bedenken und die wahrgenommenen Gefahren einer unkontrollierten KI-Entwicklung und stellte fest, dass seine Entscheidung teilweise durch die finanziellen Risiken motiviert war, die mit der Arbeit bei einem hochkarätigen Unternehmen wie Anthropic verbunden sind. Seine Aktien, die im Laufe der Zeit erworben werden, waren eine beträchtliche Summe wert, und er entschied sich, wegzugehen, bevor sie vollständig erworben wurden. Dieser Schritt erinnert an historische Fälle, in denen Individuen aufgrund moralischer Überzeugungen aus einflussreichen Positionen zurückgetreten sind. Die Debatte um die existentiellen Risiken von KI geht über die individuellen Bedenken hinaus. Wissenschaftler warnen davor, dass KI die Fähigkeiten von Biowaffen erheblich verbessern und sie stärker und einfacher zu erstellen machen könnte.

Im Jahr 2022 zeigten Forscher, dass ein KI-Molekülgenerator 40.000 potenzielle chemische Kriegsmittel in weniger als sechs Stunden produzieren könnte. Heute können KI-Tools in praktisch allen wissenschaftlichen Bereichen, einschließlich der Biotechnologie, helfen. Fortschritte in der Genbearbeitung und der synthetischen Biologie haben die Eintrittsbarriere für die Schaffung gefährlicher Krankheitserreger weiter gesenkt. Obwohl es bestehende Schutzmaßnahmen gibt, sind sie nicht narrensicher, und Experten sind sich über die Schwere der Bedrohung uneinig. Einige Forscher argumentieren, dass die Rolle der KI bei der Entwicklung von Biwaffen nicht unbedingt mit dem Erreichen von Bewusstsein oder Superintelligenz verbunden ist. Stattdessen kann sie einfach bestehende Trends in der Biotechnologie verstärken.

Beispielsweise könnten KI-gestützte Chatbots detaillierte Anleitungen zur Konstruktion resistenter Stämme von Krankheitserregern oder zur Replikation vergangener Pandemien liefern. Neuere Berichte deuten darauf hin, dass Biologen KI erfolgreich verwendet haben, um Blaupausen für tödliche Viren zu generieren, obwohl diese derzeit auf bakterielle Bedrohungen beschränkt sind. Darüber hinaus könnte KI bei der Entdeckung von benutzerdefinierten Superviren helfen, die in die falschen Hände geraten könnten. Diese Entwicklungen haben zu Forderungen nach einer strengeren Regulierung und Überwachung von KI-Technologien geführt. Anthropic und OpenAI haben die Notwendigkeit der Vorsicht anerkannt, obwohl die Wirksamkeit der aktuellen Maßnahmen unsicher bleibt.

Kritiker weisen darauf hin, dass internationale Vereinbarungen, wie die auf dem Global IndiaAI-Gipfel unterzeichnete Delhi-Erklärung, die laufende Entwicklung von KI-Systemen nicht verhindert haben. Nationen haben sich verpflichtet, sichere und vertrauenswürdige KI zu fördern, aber viele setzen weiterhin die Innovation über die Sicherheit. Die Auswirkungen dieser Risiken gehen über theoretische Diskussionen hinaus. KI-getriebene Cyberangriffe und das Potenzial für synthetische Pandemien unterstreichen die Dringlichkeit, diese Herausforderungen anzugehen. Forscher betonen, dass die technischen Hürden für die Erstellung neuartiger Superviren zwar hoch bleiben, die erhöhte Zugänglichkeit von Biotechnologie-Tools jedoch die Wahrscheinlichkeit eines versehentlichen oder vorsätzlichen Missbrauchs erhöht.

Da sich die KI-Landschaft weiter entwickelt, liegt die Herausforderung darin, Innovation mit Verantwortung in Einklang zu bringen. Experten betonen, dass die derzeitigen regulatorischen Rahmenbedingungen nicht ausreichen, um die komplexen ethischen und Sicherheitsprobleme rund um die KI anzugehen. Ohne grundlegende Änderungen der Anreize für die Entwicklung der KI können die von Coxon und anderen skizzierten Risiken bestehen bleiben.

Im Zuge der Weiterentwicklung dieses Bereichs muss der Fokus darauf verlagern, dass KI der Menschheit sicher und verantwortungsvoll dient.