ChatGPT Modifier Ajouter des hallucinations à un matériel par ailleurs précis?

Une cour d'appel de l'État du Connecticut a statué que l'avocat David Gottlieb et son cabinet d'avocats doivent prendre des mesures correctives à la suite d'allégations selon lesquelles l'utilisation de ChatGPT, un outil d'intelligence artificielle générative, aurait introduit des citations juridiques incorrectes dans les dossiers judiciaires.

Selon la décision du tribunal, Gottlieb a d'abord mené des recherches juridiques approfondies en utilisant LexisNexis et vérifié toutes les citations via le Shepard's Citations Service avant de copier et coller son travail dans ChatGPT. Son intention était de rationaliser le processus de rédaction et d'améliorer la clarté de ses documents. Cependant, les versions générées par l'IA des documents comprenaient des citations de cas nouvelles ou modifiées, ce qui rendait certaines des références de support inexactes. Ces changements sont passés inaperçus lors des examens internes de Gottlieb et de ses collègues, qui se sont principalement concentrés sur la substance des arguments juridiques plutôt que sur la vérification des citations mises à jour.

Les inexactitudes ont été portées à l'attention du tribunal par des représentants de l'organisation de services juridiques Jerome N. Frank, qui ont identifié ce qu'ils ont décrit comme des citations de cas "hallucinées" dans les mémoires.

Ils ont expliqué que les erreurs provenaient de l'utilisation de ChatGPT pour affiner la structure et la qualité de leurs brouillons initiaux, une étape qui, selon eux, ne modifierait pas l'exactitude factuelle de leur travail. Ils ont souligné que leur recherche originale avait été vérifiée avant d'entrer le contenu dans l'outil d'IA. Dans le cadre des sanctions imposées par le tribunal, Gottlieb doit compléter une formation juridique continue supplémentaire au-delà de l'exigence annuelle standard. Plus précisément, il doit entreprendre six heures de formation axée sur l'éthique et la gestion du cabinet d'avocats, dont trois heures sont consacrées à la compréhension des implications de l'IA générative dans la pratique juridique.

Le tribunal a ordonné à Gottlieb et à son cabinet de soumettre un rapport de conformité dans les six mois suivant la décision, détaillant s'ils ont satisfait aux exigences énoncées. Ce rapport doit être déposé auprès du Bureau du greffier d'appel et envoyé en copie de courtoisie au Comité des griefs à l'échelle de l'État. En outre, Gottlieb doit adhérer à toutes les mesures de discipline réciproque requises par les juridictions où il est admis au barreau.

Le tribunal a souligné que la fourniture du rapport de conformité au Comité des griefs à l'échelle de l'État ne constitue pas un renvoi formel pour d'autres procédures disciplinaires. La décision elle-même sera publiée sur le site Web de la branche judiciaire, garantissant la transparence et servant d'exemple de mise en garde pour les autres professionnels du droit qui envisagent l'utilisation d'outils d'IA dans leur travail.

Alors que les outils d'IA peuvent offrir une aide précieuse dans l'organisation et l'amélioration du contenu écrit, cette affaire souligne la nécessité pour les utilisateurs de rester vigilants et d'effectuer une vérification rigoureuse de toutes les citations et références après l'utilisation de cette technologie.