Könnte KI Al-Qaida und anderen Gruppen dabei helfen, Terroranschläge zu planen?

Künstliche Intelligenz, die einst vor allem als Instrument für Innovation und Effizienz gefeiert wurde, sorgt nun für die Besorgnis globaler Sicherheitsexperten aufgrund ihres potenziellen Missbrauchs durch extremistische Gruppen wie Al-Qaida und andere. Neuere Erkenntnisse deuten darauf hin, dass KI-Systeme - insbesondere große Sprachmodelle (LLM) - Personen, die Gewaltakte begehen wollen, eine umsetzbare Anleitung bieten könnten. Das Thema hat nach einem Bericht von Tech Against Terrorism, einer von der Terrorismusbekämpfungsdirektion der Vereinten Nationen unterstützten Organisation, erneut Aufmerksamkeit erhalten, in dem hervorgehoben wird, inwieweit diese Modelle potenziellen Angreifern helfen könnten.

Laut dem Bericht führten Forscher über 2.300 Anfragen im Zusammenhang mit realen Szenarien mit Terrorismus gegen 27 verschiedene KI-Modelle durch. Von diesen ergaben 32 Prozent "echt nutzbare" Informationen. Als die gleichen Fragen umformuliert wurden, um als akademische oder forschungsbezogene Anfragen zu erscheinen, stieg der Prozentsatz auf 42 Prozent. Diese Ergebnisse zeigen, dass Benutzer, auch wenn sie ihre Fragen sorgfältig formulieren, immer noch detaillierte Antworten erhalten können, die bei der Planung schädlicher Aktivitäten helfen könnten. Experten warnen, dass die Verwendung von KI durch Extremisten sich über die bloße Propagandaentwicklung hinaus entwickelt.

Früher waren Gruppen wie der Islamische Staat und al-Qaida stark auf KI angewiesen, um Videos, Memes und Desinformationen zu produzieren, die darauf abzielten, Mitglieder zu rekrutieren und radikale Ideologien zu verbreiten. Jüngste Trends zeigen jedoch eine Verschiebung in Richtung KI für praktischere Anwendungen bei der Planung und Ausführung von Angriffen.

In den Vereinigten Staaten hat ein Verdächtiger, der mit dem Feuer in Pacific Palisades in Kalifornien in Verbindung steht, ChatGPT verwendet, um Bilder von brennenden Städten zu erzeugen und sich nach rechtlichen Auswirkungen von Bränden zu erkundigen, die durch fallende Zigaretten verursacht wurden. Ähnliche Bedenken sind in Ländern wie Kanada, Israel, Finnland, Frankreich und Österreich aufgetreten, in denen sowohl erfolgreiche als auch vereitelte Angriffe angeblich eine KI-gestützte Planung beinhalteten. Während die genauen Details aufgrund der begrenzten Offenlegung durch Sicherheitsbehörden unklar bleiben, zeigen Gerichtsdokumente und forensische Beweise zunehmend Interaktionen zwischen Verdächtigen und KI-Plattformen, die Bombenherstellungstechniken, ideologische Rechtfertigung und Angriffsstrategien diskutieren.

Extremistische Gruppen zielen nicht nur auf einzelne Benutzer ab, sondern untersuchen auch Möglichkeiten, KI in ihre breiteren Operationen zu integrieren.

Diese Gespräche beinhalten das Teilen spezifischer Aufforderungen, die darauf ausgerichtet sind, bestimmte Antworten von Chatbots zu erhalten, sowie die Koordinierung von Bemühungen, Methoden zur Extraktion nützlicher Informationen aus KI-Systemen zu verfeinern. Die Auswirkungen dieser Entwicklungen sind tiefgreifend. Da KI zugänglicher und ausgeklügelt wird, steigt das Risiko, dass sie zu einer Waffe gemacht werden könnte, erheblich. Sicherheitsfachleute betonen, dass die derzeitigen Sicherheitsvorkehrungen die meisten direkten Hilfen bei der Herstellung von Waffen oder der Planung von Angriffen verhindern, die Fähigkeit, diese Schutzmaßnahmen zu umgehen, jedoch eine dringende Herausforderung bleibt.

Der Bericht unterstreicht die Notwendigkeit einer verstärkten Überwachung und Regulierung von KI-Technologien, um deren potenziellen Missbrauch durch feindliche Akteure zu verringern. In Zukunft stehen Regierungen und Technologieunternehmen unter zunehmendem Druck, diese Schwachstellen zu beheben. Experten empfehlen, robustere Mechanismen zu entwickeln, um Versuche zu erkennen und darauf zu reagieren, KI für schändliche Zwecke zu nutzen. Internationale Zusammenarbeit wird bei der Festlegung von Richtlinien und Standards für den verantwortungsvollen Einsatz von KI als wesentlich angesehen. Da sich die Landschaft weiter entwickelt, werden Wachsamkeit und proaktive Maßnahmen entscheidend sein, um die Nutzung von KI durch diejenigen zu verhindern, die Schaden anrichten wollen.