¿Editando ChatGPT añadiendo alucinaciones a material que de otro modo sería exacto?

Un tribunal de apelaciones del estado de Connecticut ha dictaminado que el abogado David Gottlieb y su bufete de abogados deben tomar medidas correctivas tras las acusaciones de que el uso de ChatGPT, una herramienta de inteligencia artificial generativa, introdujo citas legales incorrectas en los documentos presentados en la corte. La decisión se produjo después de una revisión de los materiales presentados en el caso Tov Realty LLC v. Suárez, donde el tribunal encontró que si bien los argumentos legales centrales presentados seguían siendo precisos, las referencias de apoyo habían sido alteradas o fabricadas por el sistema de inteligencia artificial.

Según el fallo del tribunal, Gottlieb llevó a cabo una investigación legal exhaustiva utilizando LexisNexis y verificó todas las citas a través del Shepard's Citations Service antes de copiar y pegar su trabajo en ChatGPT. Su intención era agilizar el proceso de redacción y mejorar la claridad de sus documentos. Sin embargo, las versiones generadas por IA de los documentos incluían citas de casos nuevas o modificadas, lo que hizo que algunas de las referencias de apoyo fueran inexactas. Estos cambios pasaron desapercibidos durante las revisiones internas de Gottlieb y sus colegas, que se centraron principalmente en la sustancia de los argumentos legales en lugar de verificar las citas actualizadas.

Las inexactitudes fueron llevadas a la atención de la corte por representantes amicus curiae de la Organización de Servicios Legales Jerome N. Frank, quienes identificaron lo que describieron como citas de casos "alucinadas" en los informes. Tras la notificación, Gottlieb presentó prontamente hojas de errata para corregir los errores en ambos casos. Sin embargo, el tribunal emitió una orden espontánea que le exigía a él y a su firma que explicaran cómo ocurrieron tales errores. En respuesta, Gottlieb y su firma reconocieron su responsabilidad y expresaron su pesar por los errores.

Explicaron que los errores surgieron del uso de ChatGPT para refinar la estructura y la calidad de sus borradores iniciales, un paso que creían que no alteraría la precisión fáctica de su trabajo. Enfatizaron que su investigación original había sido verificada antes de ingresar el contenido en la herramienta de IA. Como parte de las sanciones impuestas por el tribunal, Gottlieb debe completar una educación legal continua adicional más allá del requisito anual estándar. Específicamente, debe realizar seis horas de capacitación enfocadas en la ética y la administración de oficinas legales, con tres de esas horas dedicadas a comprender las implicaciones de la IA generativa en la práctica legal.

El tribunal ordenó a Gottlieb y a su firma que presentaran un informe de cumplimiento dentro de los seis meses posteriores a la decisión, detallando si han cumplido con los requisitos descritos. Este informe debe presentarse en la Oficina del Secretario de Apelaciones y enviarse como copia de cortesía al Comité de Reclamaciones Estatal. Además, Gottlieb debe adherirse a cualquier medida de disciplina recíproca requerida por las jurisdicciones donde tiene la admisión al colegio de abogados.

El tribunal enfatizó que la provisión del informe de cumplimiento al Comité Estatal de Reclamaciones no constituye una remisión formal para más procedimientos disciplinarios. El fallo en sí mismo se publicará en el sitio web de la Rama Judicial, garantizando la transparencia y sirviendo como un ejemplo de precaución para otros profesionales legales que consideran el uso de herramientas de IA en su trabajo. El incidente destaca las crecientes preocupaciones entre los profesionales legales sobre la confiabilidad de los sistemas de IA en entornos profesionales.

Si bien las herramientas de IA pueden ofrecer una valiosa asistencia para organizar y refinar el contenido escrito, este caso subraya la necesidad de que los usuarios permanezcan vigilantes y realicen una verificación rigurosa de todas las citas y referencias después de utilizar dicha tecnología. A medida que los profesionales legales integran cada vez más la IA en sus flujos de trabajo, la necesidad de pautas claras y estándares éticos se vuelve cada vez más apremiante.