Google's AI Overviews präsentierte die fiktiven Monster als real

Ein deutsches Gericht hat entschieden, dass Google direkt für ungenaue Antworten verantwortlich ist, die durch seine KI-Überblick-Funktion erzeugt werden, was einen bedeutenden rechtlichen Präzedenzfall darstellt, wie künstliche Intelligenz erzeugte Inhalte nach geltenden Gesetzen behandelt werden. Die Entscheidung kommt, nachdem zwei in München ansässige Verlagsunternehmen eine Klage gegen den Technologieriesen eingereicht hatten, in der behauptet wurde, dass die KI ihre Geschäfte falsch mit betrügerischen Praktiken, Abonnementfallen und betrügerischen Systemen in Verbindung gebracht habe. Gemäß dem Urteil des Gerichts kann Google die Verantwortung nicht einfach ablenken, indem es behauptet, dass es lediglich Inhalte von Dritten aggregiert, ohne diese aktiv zu gestalten oder zu unterstützen.

Der Fall konzentrierte sich auf die Funktionalität AIAI Overview,, die die Suchergebnisse mithilfe der natürlichen Sprachverarbeitung zusammenfasst und in einem strukturierten Format präsentiert. Die Publisher argumentierten, dass diese von KI generierte Zusammenfassung irreführend sei, da sie ihre Unternehmen mit zweifelhaften Geschäftspraktiken verbindet, die in den tatsächlichen Suchergebnissen nicht vorhanden waren. Stattdessen hatte die KI ihre Daten mit Informationen über andere, wirklich problematische Unternehmen vermischt und Links erstellt, die nicht einmal in den zitierten Quellen innerhalb der Suchergebnisse existierten.

Die Verteidigung von Google stützte sich stark auf das Prinzip, dass Suchmaschinen nicht für die Inhalte, die sie aus externen Quellen sammeln, verantwortlich gemacht werden sollten. Das Gericht wies dieses Argument jedoch zurück und erklärte, dass die KI-Übersicht mehr als nur die Anzeige oder den Link zu Suchergebnissen bewirkt - sie schafft neue, unabhängige Aussagen, die über einfache Verweise auf externe Inhalte hinausgehen. Die Richter betonten, dass die KI nicht nur Quellen auflistet, sondern stattdessen Informationen in eigenen Worten synthetisiert und präsentiert, wodurch Google direkt für die Genauigkeit dieser Zusammenfassungen verantwortlich gemacht wird.

Das Gericht wies auch die Behauptung von Google zurück, dass Benutzer die Quellen selbst über bereitgestellte Links überprüfen könnten und sich bereits bewusst waren, dass KI-generierte Inhalte nicht für bare Münze genommen werden sollten. Es wies darauf hin, dass der KI-Überblick sich als eigenständige Erklärung mit unabhängig verständlichem Inhalt präsentierte und den Lesern keinen Hinweis darauf gab, dass die Informationen unzuverlässig sein könnten.

Als Reaktion auf das Urteil erklärte ein Sprecher von Google, dass das Unternehmen sich verpflichtet habe, die Qualität seiner KI-Zusammenfassungen zu verbessern, um sicherzustellen, dass die meisten Antworten genaue Informationen liefern.

Abgesehen von den unmittelbaren rechtlichen Auswirkungen hat das Urteil eine breitere Bedeutung in der laufenden Debatte über die Rolle der KI bei der Verbreitung von Informationen. Kritiker haben schon lange Alarme ausgelöst über Fälle, in denen die KI von Google fiktive Inhalte als faktisch falsch dargestellt hat.

Eine weitere Suche nach SCP-426, einem fiktiven Toaster, der jeden, der ihn erwähnt, dazu zwingt, in erster Person darüber zu sprechen, führte zu einer Antwort, die in erster Person geschrieben wurde, wobei die KI sich selbst als den Toaster beschrieb und gefälschte Verletzungen beschrieb, die diejenigen erlitten, die versuchten, ihn nachzuahmen.

Diese Beispiele unterstreichen die potenziellen Risiken von KI-Systemen, die nicht zwischen Fiktion und Realität unterscheiden können, insbesondere wenn synthetisierte Inhalte als faktisch präsentiert werden. Während die SCP Foundation ausdrücklich erklärt, dass ihr Inhalt fiktiv ist, haben Google's AI-Übersichten selten solche Haftungsausschlüsse enthalten, was die Bemühungen um Transparenz und Genauigkeit von KI-generierten Informationen weiter erschwert.

Während der Rechtsstreit weitergeht, wird das Ergebnis der Berufung von Google wahrscheinlich zukünftige Vorschriften über die AI-Verantwortlichkeit beeinflussen. Wenn das Urteil bestätigt wird, könnte es einen Präzedenzfall schaffen, der Tech-Unternehmen verpflichtet, eine größere Verantwortung für die Genauigkeit von AI-generierten Inhalten zu übernehmen, was möglicherweise zu einer strengeren Aufsicht und klareren Richtlinien für den Umgang mit synthetischen Informationen führt. Inzwischen dient der Vorfall als Warnhinweis für die Herausforderungen der Integration von AI in alltägliche digitale Interaktionen, bei denen die Grenzen zwischen Wahrheit und Fälschung zunehmend verschwommen werden können.