ChatGPT Editing Aggiungere allucinazioni a materiale altrimenti accurato?

Una corte d'appello dello stato del Connecticut ha stabilito che l'avvocato David Gottlieb e il suo studio legale devono intraprendere azioni correttive a seguito delle accuse secondo cui l'uso di ChatGPT, uno strumento di intelligenza artificiale generativa, ha introdotto citazioni legali errate nei documenti presentati in tribunale.

Secondo la sentenza del tribunale, Gottlieb inizialmente ha condotto una ricerca legale approfondita utilizzando LexisNexis e ha verificato tutte le citazioni attraverso il Shepard's Citations Service prima di copiare e incollare il suo lavoro in ChatGPT. La sua intenzione era quella di semplificare il processo di stesura e migliorare la chiarezza dei suoi documenti. Tuttavia, le versioni generate dall'IA dei documenti includevano citazioni di casi nuove o modificate, che rendevano inesatti alcuni dei riferimenti di supporto. Questi cambiamenti sono passati inosservati durante le revisioni interne di Gottlieb e dei suoi colleghi, che si sono concentrati principalmente sulla sostanza degli argomenti legali piuttosto che sulla verifica delle citazioni aggiornate.

Le inesattezze sono state portate all'attenzione della corte da rappresentanti amicus curiae della Jerome N. Frank Legal Services Organization, che hanno identificato ciò che hanno descritto come citazioni di casi "allucinati" nei brief. Alla notifica, Gottlieb ha prontamente presentato fogli di errata per correggere gli errori in entrambi i casi. Tuttavia, la corte ha emesso un ordine spontaneo che richiede a lui e al suo studio di spiegare come si sono verificati tali errori. In risposta, Gottlieb e il suo studio hanno riconosciuto la loro responsabilità e hanno espresso rammarico per gli errori.

Gli autori hanno spiegato che gli errori derivano dall'uso di ChatGPT per affinare la struttura e la qualità delle loro bozze iniziali, un passo che ritenevano non avrebbe alterato l'accuratezza fattuale del loro lavoro. Hanno sottolineato che la loro ricerca originale era stata verificata prima di inserire il contenuto nello strumento di IA. Come parte delle sanzioni imposte dalla corte, Gottlieb deve completare ulteriori corsi di formazione legale continua oltre il requisito annuale standard. In particolare, deve intraprendere sei ore di formazione incentrata sull'etica e sulla gestione degli uffici legali, con tre di quelle ore dedicate alla comprensione delle implicazioni dell'IA generativa nella pratica legale.

Il tribunale ha ordinato a Gottlieb e al suo studio di presentare un rapporto di conformità entro sei mesi dalla sentenza, dettagliando se hanno soddisfatto i requisiti delineati.

La Corte ha sottolineato che la fornitura del rapporto di conformità al Comitato per i reclami a livello statale non costituisce un rinvio formale per ulteriori procedimenti disciplinari. La sentenza stessa sarà pubblicata sul sito web del ramo giudiziario, garantendo la trasparenza e servendo da esempio di cautela per altri professionisti legali che considerano l'uso di strumenti di IA nel loro lavoro. L'incidente evidenzia le crescenti preoccupazioni tra i professionisti del diritto sull'affidabilità dei sistemi di IA in contesti professionali.

Mentre gli strumenti di IA possono offrire un'assistenza preziosa nell'organizzazione e nel perfezionamento dei contenuti scritti, questo caso sottolinea la necessità per gli utenti di rimanere vigili e eseguire una verifica rigorosa di tutte le citazioni e i riferimenti dopo aver utilizzato tale tecnologia.