Un destacado abogado de Australia se disculpó ante un juez por declararse culpable en un caso de asesinato. contenía citas falsas y juicios ad hoc inexistentes generados por inteligencia artificial.
El error cometido en la Corte Suprema de Victoria es el último de una serie de percances causados por la inteligencia artificial en los sistemas judiciales de todo el mundo.
El abogado defensor Rishi Nathwani, que ostenta el prestigioso título de Abogado del Rey, aceptó «plena responsabilidad» por hacer declaraciones falsas en los alegatos en el caso de un adolescente acusado de asesinato, según documentos judiciales vistos por The Associated Press el viernes.
«Estamos profundamente apenados y avergonzados por lo que pasó», dijo Nathwani al juez James Elliott el miércoles en nombre del equipo de la defensa.
Los errores provocaron un retraso de 24 horas en la resolución del caso, que Elliott esperaba cerrar el miércoles. Elliott dictaminó el jueves que el cliente de Nathwani, que no puede ser identificado porque es menor de edad, no es culpable de asesinato porque tiene una discapacidad mental.
«A riesgo de quedarnos cortos, la forma en que se desarrollaron estos acontecimientos es insatisfactoria», dijo Elliott a sus abogados el jueves.
«La capacidad del tribunal para confiar en la exactitud de los alegatos de los abogados defensores es fundamental para la adecuada administración de justicia», añadió Elliott.
Las presentaciones falsas incluían citas inventadas de un discurso ante la legislatura estatal y supuestas citas de casos de la Corte Suprema que no existían.
Los errores generados por la IA fueron descubiertos por el personal de Elliot, que no pudo encontrar los casos citados y pidió a los abogados defensores que proporcionaran copias, informó anteriormente la Australian Broadcasting Corporation.
Los abogados admitieron que las citaciones «no existen» y que la presentación contenía «citas ficticias», según documentos judiciales.
Los abogados dijeron que verificaron la exactitud de las citas originales y asumieron erróneamente que el resto era cierto.
Los escritos también fueron remitidos al fiscal Daniel Porceddu, quien no verificó su veracidad.
El juez señaló que el año pasado la Corte Suprema emitió directrices sobre cómo los abogados deberían utilizar la IA.
«No es aceptable utilizar inteligencia artificial a menos que el producto del uso haya sido verificado de forma independiente y exhaustiva», dijo Elliott.
Los documentos judiciales no identifican el sistema de inteligencia artificial generativa utilizado por los abogados.
En un caso similar ocurrido en Estados Unidos en 2023, un juez federal multó a dos abogados y a un bufete de abogados con 5.000 dólares después de Se culpó a ChatGPT por presentar una investigación legal ficticia en un reclamo por lesiones de aviación.
Según el juez P. Kevin Castel, actuaron de mala fe. Pero reconoció la disculpa y sus medidas correctivas al explicar por qué no eran necesarias sanciones más fuertes para garantizar que ellos u otros no permitieran que las herramientas de inteligencia artificial volvieran a crear precedentes legales falsos en sus argumentos.
Ese mismo año, documentos legales citaron decisiones judiciales aún más ficticias inventadas por inteligencia artificial. Presentado por los abogados de Michael CohenEx abogado personal del presidente estadounidense Donald Trump. Cohen asumió la responsabilidad y dijo que no se daba cuenta de que la herramienta de Google que estaba usando para investigaciones legales era capaz de provocar las llamadas alucinaciones de inteligencia artificial.
La jueza del Tribunal Superior británico Victoria Sharp advirtió en junio que hacer pasar material falso como real podría considerarse desacato al tribunal o «en los casos más atroces» pervertir el curso de la justicia, lo que podría conllevar una pena máxima de cadena perpetua.
El uso de la inteligencia artificial ha entrado en los tribunales estadounidenses de otras maneras. En abril de 2025, un hombre llamado Jerome Dewald compareció ante un tribunal de Nueva York y presentó un vídeo que contenía un avatar generado por IA para defenderlo.
Un mes después, un hombre murió en un incidente de violencia al volante en Arizona.habló» durante la sentencia de su asesino después de que su familia usó inteligencia artificial para crear un video de él leyendo una declaración de impacto de víctima.
