Wie ein ChatGPT-Nutzer 3M vor Gericht in Verlegenheit brachte

Ein Expertenzeuge von 3M in Houston verwendete ChatGPT, um einen wichtigen Teil seines Expertenberichts in einer Klage im Zusammenhang mit einer Explosion im Jahr 2020 zu erstellen, bei der drei Menschen getötet und mehr als 200 Häuser beschädigt wurden, so Gerichtsdokumente und Gerichtsakten.

Nach Angaben des Chemical Safety and Hazard Investigation Board wurde die Explosion durch einen beschädigten, schlecht gekrimpten Gummischweißschlauch verursacht, der entzündliches Gas durchsickern ließ. Dutzende Hausbesitzer reichten Klagen gegen 3M und Watson Grinding ein, in denen behauptet wurde, dass 3M das Gasdetektionssystem der Anlage nicht ausreichend instand gehalten und andere Fehler begangen habe, die zur Katastrophe beigetragen hätten.

Moye forderte die Anweisungen an, die Autenrieth zur Erstellung des Berichts verwendet hatte. Diese Anfrage führte zu einer dreistündigen Pause in der Aussage, da 350 Seiten von ChatGPT-Gesprächen zusammengestellt wurden. Unter diesen Materialien befanden sich detaillierte Anweisungen von Autenrieth, der den Chatbot darüber informierte, dass er 3M vertrat und Unterstützung bei der Erstellung eines Expertenberichts zur Unterstützung der Verteidigung des Unternehmens benötigte. Autenrieth lud zahlreiche Gerichtsakten in ChatGPT hoch und wies die KI an, sie zu analysieren und Inhalte bereitzustellen, die die Position von 3M stärken würden. Diese Aussage wurde jedoch später entfernt, nachdem Autenrieth die KI gebeten hatte, den Bericht aus der Perspektive des gegnerischen Anwalts zu bewerten.

Während des gesamten Prozesses überarbeitete Autenrieth den Bericht häufig mit ChatGPT und bat die KI, seinen Inhalt zu verfeinern und potenzielle Herausforderungen der gegnerischen Seite zu antizipieren. In einem Fall erhielt ChatGPT dem Bericht eine Punktzahl von 97 von 100. Autenrieth bat die KI auch, die fünf wichtigsten Probleme zu identifizieren, die angefochten werden könnten, und Gegenargumente vorzuschlagen. Darüber hinaus erkundigte er sich nach spezifischen Komponenten eines Gasdetektors und stellte in Frage, ob seine Qualifikationen als Sachverständiger angesichts seiner begrenzten vorherigen Erfahrung in solchen Rollen angemessen waren.

Er erklärte: "Ich habe eine Menge Arbeit und mehr als 20 Jahre Erfahrung in der Branche" und erklärte, dass er die KI benutzte, um einen vorläufigen Rahmen zu entwickeln, den er dann anhand seines eigenen Wissens anpasste. Er erwähnte weiter, dass er gelegentlich die KI während des Pendelns benutzte, um sein Gedächtnis zu joggen und komplexe Aufgaben zu erledigen. Der dem Gericht vorgelegte Abschlussbericht spiegelte weitgehend die Struktur und den Inhalt der von der KI erzeugten Anfangsversion wider, wobei viele Abschnitte direkt von der ursprünglichen Ausgabe kopiert wurden.

Der Fall geht weiter, während das Gericht die Auswirkungen von KI-gestützten Gutachten in Gerichtsverfahren bewertet.