Globale KI-Industrie kommt der Sicherheit nicht gerecht, warnt Think-Tank

Der Bericht, der am Dienstag veröffentlicht wurde, bewertet die Sicherheitspraktiken von neun großen KI-Unternehmen und stellt fest, dass keine von ihnen hohen Standards bei der Bewältigung potenzieller existenzieller Bedrohungen durch fortgeschrittene KI-Systeme erfüllt. Während einige Unternehmen Fortschritte zeigten, deuten die Ergebnisse darauf hin, dass die Branche als Ganzes weit hinter dem zurückbleibt, was für die sichere Entwicklung und Einführung von KI-Technologien erforderlich ist.

Gemäß dem Bericht wurden sieben Forscher und Governance-Experten an der Bewertung beteiligt, die die Unternehmen auf der Grundlage von sechs Kategorien bewerteten: Risikobewertung, aktuelle Schäden, Sicherheitsrahmen, existenzielle Sicherheit, Governance und Verantwortlichkeit und Informationsaustausch. Jedes Unternehmen wurde anhand dieser Kriterien bewertet, wobei öffentlich verfügbare Daten und Antworten auf die Anfragen des Think Tanks verwendet wurden. Dies deutet darauf hin, dass selbst die leistungsstärkste Einrichtung noch erheblichen Raum für Verbesserungen bei der Gewährleistung der KI-Sicherheit hat. Unter den überprüften Unternehmen verbesserte Meta seine Position um zwei Plätze auf Platz vier, während xAI drei Plätze auf Platz sieben fiel.

Weitere bemerkenswerte Platzierungen sind Chinas DeepSeek auf dem fünften Platz und Frankreichs Mistral, das als letzter auftrat. Mistral, ein relativ neuer Teilnehmer der Liste, äußerte sich nicht einverstanden mit der im Bericht verwendeten Methodik und erklärte, dass sein Ansatz zur Entwicklung von Open-Source-KI-Modellen nicht gut mit dem Evaluierungsrahmen übereinstimmt. Im Gegensatz zu vielen seiner Wettbewerber ermöglicht Mistral Benutzern, ihre KI-Modelle frei herunterzuladen und zu modifizieren, während Unternehmen wie Anthropic, OpenAI und Google DeepMind geschlossene Modelle entwickeln, die für die Öffentlichkeit nicht zugänglich sind.

Max Tegmark, ein MIT-Professor und Präsident des Future of Life Institute, äußerte sich enttäuscht über die niedrige Platzierung von Mistral und stellte fest, dass europäische Länder bei der KI-Sicherheit führend waren. Er betonte, dass das Institut mehrere Versuche unternommen hatte, Mistral für Feedback zu kontaktieren, aber keine Antwort erhielt.

Die US-Regierung nutzte die Technologie von Anthropic in Militäroperationen in Venezuela und im Iran im vergangenen Jahr. Das Pentagon verhängte jedoch kürzlich ein Verbot von Anthropic aufgrund von Meinungsverschiedenheiten über KI-Sicherheitsprotokolle. Die Beschränkung wurde Ende Juni von der Trump-Administration nach dem Druck verschiedener Interessengruppen vorübergehend aufgehoben.

Das Future of Life Institute hob hervor, dass alle neun ausgewerteten Unternehmen es versäumt haben, die mit der Verfolgung der künstlichen allgemeinen Intelligenz (AGI) verbundenen existenziellen Risiken angemessen anzugehen - ein Niveau von KI, das in der Lage ist, jede intellektuelle Aufgabe zu erfüllen, die ein Mensch kann. Obwohl es einige konstruktive Bemühungen innerhalb der Branche gibt, kam der Bericht zu dem Schluss, dass diese Initiativen völlig unzureichend sind, um die potenziellen Gefahren von hochentwickelten KI-Systemen zu mildern. Zusätzliche Risiken, die im Bericht identifiziert werden, umfassen die Möglichkeit, dass KI für Cyberangriffe oder andere Aktivitäten missbraucht wird, die Einzelpersonen schaden könnten.

Diese Bedenken sind immer dringlicher geworden, da Unternehmen die Grenzen der KI-Fähigkeiten immer weiter verschieben. Zum Beispiel enthüllte Anthropic kürzlich sein bisher leistungsstärkstes Modell namens Mythos, das anfangs auf eine ausgewählte Gruppe vertrauenswürdiger Organisationen beschränkt war, da es potenziell Sicherheitslücken in der Cybersicherheit aufdecken konnte. Die US-Regierung intervenierte im Juni und blockierte die Freigabe von Mythos an ausländische Unternehmen aus Gründen der nationalen Sicherheit. Das Verbot wurde später von der Trump-Administration aufgehoben, so dass Anthropic mit der Weiterentwicklung und Verteilung des Modells fortfahren konnte.

Da die Debatte um die Sicherheit von KI weiter an Dynamik gewinnt, unterstreicht der Bericht die dringende Notwendigkeit einer stärkeren Zusammenarbeit zwischen Regierungen, Unternehmen des privaten Sektors und Forschungseinrichtungen, um robuste Schutzmaßnahmen gegen aufkommende Bedrohungen zu schaffen.