Tribunales advierten por citas falsas creadas con IA

En dos recientes pronunciamientos, tribunales de General Roca y de Morón trataron la inclusión de citas jurisprudenciales inexistentes en escritos judiciales, generadas mediante el uso de herramientas de inteligencia artificial.

En el primer caso, “M.J.L. c/ Peugeot Citroen Argentina S.A y otra s/sumarisimo” la Cámara de Apelaciones en lo Civil, Comercial, Familia y Minería de General Roca resolvió un conflicto de consumo vinculado a un automóvil defectuoso. Sin embargo, además de resolver la cuestión de fondo, advirtió irregularidades en los escritos de agravios de la demandada y en la contestación de agravios de la actora. En particular, detectó que ambas partes habían incluido citas jurisprudenciales inexistentes, las cuales no pudieron hallarse pese a haberse realizado una búsqueda exhaustiva en bases de datos oficiales.

Ante ello, la Cámara, señaló que, si bien los letrados de cada una de las partes no lo habían reconocido expresamente, la reiteración de precedentes falsos hacía presumir el uso de herramientas de inteligencia artificial generativa en la elaboración de los escritos. Asimismo, advirtió que, aun actuando de buena fe, los letrados no pueden eximirse de su deber profesional de cotejar la existencia y veracidad de las fuentes invocadas. Si bien resolvió no aplicar sanciones, el tribunal efectuó un llamado de atención y recordó las normas de ética profesional que imponen probidad, veracidad y buena fe. Finalmente, dispuso notificar al Colegio de Abogados de General Roca para que promueva entre sus matriculados buenas prácticas en el uso de nuevas tecnologías, especialmente la verificación rigurosa de las citas incorporadas en escritos judiciales.

En el segundo fallo, “Acevedo Gerardo Gabriel c/ Caceres Mareco Willian Arsenio y Agrosalta Cooperativa de Seguros Limitada s/ daños y perj. autom. c/ les. o muerte (exc.estado)”, la Sala I de la Cámara de Apelación en lo Civil y Comercial de Morón intervino frente a un recurso de apelación presentado por la actora contra la sentencia de primera instancia que había hecho lugar a la demanda. Sin embargo, al analizar los fundamentos recursivos, el tribunal advirtió que la expresión de agravios se construía casi exclusivamente sobre citas jurisprudenciales imposibles de localizar, entre ellas un supuesto fallo “Barrios” que no correspondía a los antecedentes de la jurisdicción ni aparecía en los registros oficiales. Esta circunstancia llevó a concluir que el recurso no constituía una crítica concreta y, en consecuencia, fue declarado desierto.

En particular, la Cámara señaló que esta práctica estaba vinculada con el fenómeno de las “alucinaciones” de la inteligencia artificial generativa, es decir, la creación de precedentes inexistentes que aparecen como verosímiles. Si bien en este caso tampoco se impusieron sanciones, el tribunal destacó la necesidad de un uso ético y responsable de estas herramientas. Así, advirtió que los abogados conservan la obligación profesional de verificar la existencia y exactitud de las fuentes citadas. Además, se dispuso a comunicar lo ocurrido al Colegio de Abogados local para promover entre los matriculados la importancia de verificar cuidadosamente la jurisprudencia y doctrina invocadas en escritos judiciales, a fin de prevenir futuros inconvenientes y preservar la confianza en la administración de justicia.