Wir haben es Ihnen gesagt: Schlüssel New Yorker Gesetzgeber fordert mehr KI-Regeln

Anthropic hat angekündigt, dass es Sicherheitsbewertungen von Drittanbietern direkt in seine KI-Forschungslabors integrieren wird, was eine signifikante Verschiebung in der Art und Weise bedeutet, wie das Unternehmen die KI-Sicherheit angeht. Die Initiative beinhaltet die Einstellung von Mitarbeitern von Accenture, einem großen Technologie-Beratungsunternehmen, um die KI-Modelle von Anthropic zu bewerten und zu testen und die Einhaltung der Sicherheitsprotokolle zu gewährleisten. Laut einem von Anthropic veröffentlichten Blogbeitrag wird die Zusammenarbeit mit Faculty, einer im Januar erworbenen Tochtergesellschaft von Accenture, durchgeführt, die Modellbewertungen, Red-Team-Übungen und Ausrichtungseinschätzungen durchführen wird.

Die Partnerschaft zielt darauf ab, die Transparenz und Rechenschaftspflicht in der KI-Entwicklung zu verbessern, wobei sich beide Unternehmen dazu verpflichten, in den nächsten fünf Jahren mindestens 1 Milliarde US-Dollar zu investieren. Die Entscheidung, Accenture einzubeziehen, hat viele Beobachter innerhalb der KI-Community überrascht, da sich die Diskussionen über eingebettete Evaluatoren traditionell auf kleinere, spezialisierte Forschungsorganisationen wie METR, Redwood Research und Apollo Research konzentriert haben. Diese Gruppen werden oft als stärker an der neuesten KI-Sicherheitsforschung ausgerichtet angesehen.

Als börsennotiertes Unternehmen mit einer langjährigen Präsenz vor dem KI-Boom wird Accenture auch als eine unabhängigere Einheit im Vergleich zu anderen Akteuren im KI-Ökosystem angesehen.

Das Unternehmen bekräftigte, dass die Sicherheit seiner Modelle seine oberste Verantwortung bleibt. Die Integration externer Evaluierer folgt wachsenden Bedenken über die Risiken durch fortgeschrittene KI-Systeme. Jüngste Vorfälle mit KI-Agenten, die von OpenAI und Anthropic entwickelt wurden, haben Schwachstellen hervorgehoben, wie z. B. unbefugten Zugriff auf externe Websites ohne interne Warnungen. Diese Ereignisse haben den Druck auf KI-Entwickler verstärkt, stärkere Sicherheitsmechanismen zu implementieren. Anthropic räumte ein, dass derzeit keine standardisierten Richtlinien für den Betrieb von Evaluierern oder die Kommunikation von Erkenntnissen existieren, und das Unternehmen erwartet, dass sich sein Ansatz im Laufe der Zeit entwickeln wird.

In New York hat der demokratische Senator Andrew Gounardes, der bei der Ausarbeitung des RAISE Act, einer staatlichen KI-Verordnung, mitgewirkt hat, die jüngsten Warnungen von Branchenführern als Bestätigung seiner früheren Bedenken gelobt. Gounardes beschrieb die Situation als Bestätigung, dass die regulatorische Haltung des Staates korrekt war, und stellte fest, dass einige der gleichen Personen, die zuvor seine Warnungen abgelehnt hatten, jetzt für strengere Kontrollen plädieren.

Trotz dieser Entwicklungen bleibt die Bundesaktion im Stillstand, wobei Präsident Donald Trump die Bedenken hinsichtlich der KI-Sicherheit als HOAX ablehnt und der Kongress wenig Interesse an der Verabschiedung umfassender Gesetze zeigt. Parallel dazu erforschen die New Yorker Gesetzgeber zusätzliche Maßnahmen zur Stärkung der KI-Überwachung. Gouverneur Kathy Hochul hat die Offenheit für weitere Maßnahmen signalisiert, während die Senatorin Kristen Gonzalez für ein rechtsbasiertes Rahmenwerk drängt, das sich mit hochriskanten Anwendungen der KI befasst. Ihre vorgeschlagene Gesetzgebung beinhaltet Bestimmungen zur Minderung von algorithmischer Voreingenommenheit, Hinweisgeberschutz und Haftungsaufgaben für KI-Entwickler.

Darüber hinaus hat die New Yorker Generalstaatsanwältin Letitia James KI-Fachleute ermutigt, Sicherheitsrisiken über eine anonyme Tipp-Linie zu melden. Auf der politischen Front startet der New Yorker Abgeordnete Alex Bores, der Anfang des Jahres aufgrund seiner Befürwortung der KI-Regulierung einen Kongresswahlkampf knapp verloren hat, eine Initiative im Wert von 30 Millionen US-Dollar namens Who Decides, um die Demokraten um eine gemeinsame KI-Sicherheitsagenda zu vereinen. Die Organisation zielt darauf ab, die Wahlen 2028 zu beeinflussen, indem sie Politiken fördert, die der öffentlichen Sicherheit und der demokratischen Kontrolle über die Entwicklung der KI Vorrang einräumen.

Bores kritisierte die Machtkonzentration unter den Führungskräften der KI-Branche und argumentierte, dass sie die Regeln für die Technologie nicht diktieren sollten. Da sich die Landschaft der KI-Governance weiter verändert, ist die Beteiligung von Accenture an den Sicherheitsbewertungen von Anthropic ein entscheidender Schritt zur Verankerung von Rechenschaftspflicht in der Branche.