Was stimmt nicht mit dem neuen europäischen Gesetz über künstliche Intelligenz?

In einem Schritt, der Debatten unter Technologieunternehmen, Regulierungsbehörden und zivilgesellschaftlichen Gruppen ausgelöst hat, hat die Europäische Kommission ChatGPT, Reddit und Roblox unter den strengeren Bestimmungen des Digital Services Act (DSA) eingestuft. Diese Einstufung bedeutet, dass diese Plattformen innerhalb von vier Monaten ab Januar 2027 zusätzlichen Verpflichtungen nachkommen müssen. Die Entscheidung folgt Berichten, dass jeder Dienst 45 Millionen monatliche Nutzer in der EU überschritten hat und die von der DSA gesetzte Schwelle erreicht hat, um als sehr große Online-Plattformen (VLOPs) oder sehr große Suchmaschinen (VLOSE) zu gelten.

Die Europäische Kommission gab die Klassifizierungen am Montag bekannt, nachdem Betreiber mitgeteilt hatten, dass ihre Nutzerzahlen die Kriterien erfüllen, die in den Rechtsvorschriften für digitale Dienste festgelegt sind. Diese neuen Verpflichtungen beinhalten die Bewertung und Minderung systemischer Risiken, die sich aus ihren Diensten und algorithmischen Systemen ergeben. Die Risiken umfassen die Verbreitung illegaler Inhalte, negative Auswirkungen auf Minderjährige, das körperliche und geistige Wohlbefinden der Nutzer, Grundrechte, Wahlprozesse und die öffentliche Sicherheit. Die Betreiber müssen detaillierte Risikobewertungen durchführen und Maßnahmen zur Bewältigung dieser Risiken ergreifen und gleichzeitig regelmäßig über den Fortschritt berichten.

Die Klassifizierung verleiht der Europäischen Kommission erweiterte Aufsichtsbefugnisse, die es ihr ermöglichen, die Funktionen zu bewerten, die den Diensten und verwandten Systemen zugrunde liegen. Nach Medienberichten wird die Kommission mit nationalen Behörden in Irland und den Niederlanden zusammenarbeiten, wo die relevanten Dienstleister registriert sind, um die Einhaltung der Verordnung zu gewährleisten. Bisher hat die Kommission 28 sehr große Online-Suchmaschinen und -Plattformen im Rahmen der DSA benannt. Kritiker haben mehrere Bedenken bezüglich des neuen Rechtsrahmens geäußert. Ein wichtiger Streitpunkt ist die rechtliche Ausdehnung des Gesetzes und die falsche Klassifizierung von Diensten.

Rechtsexperten argumentieren, dass ChatGPT und ähnliche Systeme nicht ordentlich in eine Kategorie passen, die von der DSA definiert wird, die traditionell Hosting, Caching und Suchfunktionalitäten abdeckt. Eine Chatbot als Suchmaschine zu klassifizieren, schafft Rechtsunsicherheit und setzt einen Präzedenzfall, der andere KI-basierte Dienste beeinflussen könnte. Ein weiteres Problem ist die doppelte Regulierung, bei der Anbieter großer Modelle bereits dem KI-Gesetz unterliegen. Jetzt stehen sie noch strengeren Verpflichtungen nach der DSA gegenüber, einschließlich Risikobewertungen, unabhängiger Audits und spezifischen Verfahren für Beschwerden und Berufungen. Diese doppelte regulatorische Belastung erhöht Kosten und Verwirrung darüber, welche Regeln in verschiedenen Szenarien gelten.

Einige eingebettete KI-Systeme auf Plattformen, wie Grok on X, könnten allein unter die DSA fallen, was möglicherweise zu inkonsistenten Standards für ähnliche Dienste führt. Kritiker warnen auch vor Bedrohungen der Meinungsfreiheit und potenzieller Zensur durch die Behörde. Die DSA erfordert sehr große Anbieter, "systemische Risiken", einschließlich derjenigen, die den sozialen Diskurs und Wahlprozesse betreffen, zu bewerten und zu mildern.

Es könnte einen de facto Wahrheits-Schiedsrichter schaffen, der entscheidet, was Fehlinformationen oder schädliche Äußerungen darstellt. Die von der DSA auferlegte administrative Belastung ist ein weiteres Problem. Anforderungen wie jährliche Risikobewertungen, unabhängige Audits, Transparenz von Empfehlungssystemen und dedizierte Kanäle für Beschwerden und Berufungen sind besonders anspruchsvoll. Während sich große amerikanische Unternehmen diese Anforderungen leisten können, können europäische und kleinere KI-Anbieter Schwierigkeiten haben, was die Befürchtung weckt, dass Unternehmen in der EU die Einführung neuer Funktionen aufgrund von Strafen verzögern oder vermeiden könnten, die bis zu sechs Prozent des globalen Datenverkehrs betragen könnten.

Zusätzlich argumentieren Kritiker, dass die von der DSA bereitgestellten Tools nicht geeignet sind, spezifische KI-bezogene Risiken anzugehen. Mechanismen wie Benachrichtigung und Aktion und vertrauenswürdige Flagger wurden für benutzergenerierte Inhalte entwickelt.

Mit dem Inkrafttreten der DSA dürfte ihr Einfluss auf die Art und Weise, wie Informationen online geteilt und reguliert werden, zunehmen und die digitale Landschaft möglicherweise so umgestalten, dass sie die freie Meinungsäußerung, Innovation und den Wettbewerb beeinträchtigen könnte.