Firma de abogados que representa a Trump pide perdón a un juez por presentar citas inventadas por una IA
La firma reconoció que sus propias políticas de uso de IA no fueron seguidas.
Cubro historias de Tecnología, Arte y Cultura en la sección Tendencias. Fui editor en Semana, El País de Cali y Blu Radio. Me apasiona explorar cómo el mundo digital moldea nuestra sociedad.
Sullivan & Cromwell, firma de abogados con más de 900 profesionales y una de las más reputadas de Wall Street, pidió disculpas a un juez federal de Nueva York por presentar un escrito judicial con citas incorrectas y otros errores generados por inteligencia artificial.
El incidente quedó consignado en una carta del pasado 18 de abril dirigida al juez Martin Glenn, jefe del Tribunal de Quiebras de Manhattan.
Andrew Dietderich, codirector del grupo global de reestructuración de la firma, reconoció en la carta que los errores incluían “alucinaciones” de IA, término técnico que describe cuando esas plataformas inventan información, distorsionan textos o generan fuentes inexistentes.
“Me disculpo en nombre de todo nuestro equipo”, escribió Dietderich, quien también llamó directamente a la firma rival Boies Schiller Flexner para agradecer que hubiera detectado los errores y disculparse con ellos.
Fue precisamente Boies Schiller Flexner, también involucrada en el caso, la que identificó las inconsistencias y las puso en conocimiento del tribunal.
La carta reveló que Sullivan & Cromwell cuenta con políticas y programas de capacitación para el uso de herramientas de IA en el trabajo legal, diseñados para minimizar este tipo de errores. El problema es que esas políticas no se aplicaron en este caso.
Además, un proceso de revisión secundaria tampoco logró detectar las citas incorrectas generadas por la IA antes de que el documento fuera presentado ante el juez. La firma posteriormente radicó una versión corregida del escrito.
El caso en que ocurrió el error involucra a representantes extranjeros en el proceso de liquidación de Prince Global Holdings Limited, un conglomerado camboyano cuyo fundador y presidente, Chen Zhi, enfrenta cargos en un tribunal federal de Brooklyn por presuntamente dirigir campos de trabajo forzado en Camboya y una millonaria estafa de inversión.
Sullivan & Cromwell representa a los representantes extranjeros en ese proceso; Boies Schiller Flexner actúa en nombre de un grupo de deudores que objetan la liquidación.
El incidente se suma a una tendencia que los tribunales estadounidenses ya han empezado a sancionar con frecuencia. Algunos jueces han penalizado a abogados en decenas de casos por usar IA para investigación legal y redacción de documentos sin verificar adecuadamente los resultados.
El uso de IA no está prohibido para los abogados, pero la normativa ética los obliga a garantizar la exactitud de todo lo que presentan ante un tribunal.
Lea también: ¿Usa IA para consultas médicas? Ojo, la mitad de las respuestas son falsas, advierte estudio
Momento delicado para la firma
El episodio se conoce en un momento de movimientos internos en Sullivan & Cromwell.
Según informó Reuters horas más tarde del caso de IA, dos destacados abogados de apelaciones de la firma, Jeffrey Wall y Morgan Ratner, dejaron la institución para unirse a Gibson Dunn.
Ambos formaban parte del equipo que representaba al expresidente Donald Trump en su intento de revertir su condena penal en Nueva York, relacionada con el pago de 130.000 dólares a la actriz Stormy Daniels.
Wall y Ratner ya no representarán a Trump tras el cambio de firma, aunque Robert Giuffra y otros abogados de Sullivan & Cromwell seguirán defendiéndolo en ese caso, según consta en documentos judiciales.