Come un utente di ChatGPT ha "imbarazzato" la 3M in tribunale

Un testimone esperto di 3M con sede a Houston ha utilizzato ChatGPT per redigere una parte chiave del suo rapporto di esperto in una causa relativa a un'esplosione del 2020 che ha ucciso tre persone e danneggiato più di 200 case, secondo documenti giudiziari e documenti legali. La rivelazione è arrivata durante un processo di deposizione quando sono stati divulgati i prompt utilizzati dal testimone, Josh Autenrieth di Knighthawk Engineering. Questi prompt hanno mostrato che Autenrieth ha cercato l'assistenza dello strumento AI per creare un rapporto di esperto che avrebbe difeso lo standard di cura di 3M e affermato che l'azienda era a 0% per l'incidente. Il caso si concentra sull'esplosione di gennaio 2020 a Watson Grinding, un impianto di produzione a Houston S.

Secondo il Chemical Safety and Hazard Investigation Board, l'esplosione è stata causata da un tubo di saldatura in gomma degradato e mal ripreso che ha permesso la fuoriuscita di gas infiammabile. Decine di proprietari di case hanno intentato cause contro 3M e Watson Grinding, sostenendo che 3M non era riuscita a mantenere adeguatamente il sistema di rilevamento del gas della struttura e aveva commesso altri errori che hanno contribuito al disastro. Come parte del contenzioso, 3M ha assunto Autenrieth per preparare un rapporto di esperti che esaminava il ruolo della società nell'incidente. Durante la fase di scoperta, l'avvocato dei querelanti Will Moye ha scoperto un documento di cinque pagine etichettato "Citation Overlay", che sembrava essere stato generato utilizzando l'intelligenza artificiale.

Moye ha richiesto le indicazioni che Autenrieth aveva utilizzato per generare il rapporto. Questa richiesta ha portato a una pausa di tre ore nella deposizione mentre sono state compilate 350 pagine di conversazioni ChatGPT. Tra questi materiali c'erano istruzioni dettagliate di Autenrieth, che ha informato il chatbot che rappresentava 3M e richiedeva assistenza nella stesura di un rapporto di esperti a sostegno della difesa della società. Autenrieth ha caricato numerosi documenti giudiziari in ChatGPT e ha incaricato l'AI di analizzarli e fornire contenuti che avrebbero rafforzato la posizione di 3M. Tuttavia, questa dichiarazione è stata successivamente rimossa dopo che Autenrieth ha chiesto all'AI di valutare il rapporto dal punto di vista dell'avvocato avversario.

Nel corso del processo, Autenrieth ha spesso rivisto il rapporto utilizzando ChatGPT, chiedendo all'AI di perfezionare il suo contenuto e anticipare potenziali sfide da parte della parte avversaria. In un caso, ChatGPT ha assegnato al rapporto un punteggio di 97 su 100. Autenrieth ha anche chiesto all'AI di identificare i primi cinque problemi che potrebbero essere sfidati e suggerire controargomenti.

Ha dichiarato: "Ho un corpus di lavoro e oltre 20 anni di esperienza nel settore" e ha spiegato che ha usato l'IA per sviluppare un framework preliminare, che ha poi aggiustato in base alle sue proprie conoscenze. Ha inoltre menzionato che occasionalmente ha usato l'IA durante il pendolarismo per farsi correre la memoria e assistere con compiti complessi. La relazione finale presentata alla corte rispecchiava in gran parte la struttura e il contenuto della versione iniziale generata dall'IA, con molte sezioni direttamente copiate dall'output originale. Mentre Autenrieth ha ammesso di aver fatto affidamento su ChatGPT, ha sottolineato che il suo giudizio personale e la sua esperienza hanno guidato il prodotto finale.

Il caso prosegue mentre la corte valuta le implicazioni della testimonianza di un esperto assistito dall'intelligenza artificiale nei procedimenti legali.