Anulan fallo por citas no verificadas con uso de IA

La Sala I de la Cámara de Apelaciones en lo Civil y Comercial de Azul declaró la nulidad de una sentencia interlocutoria dictada por el Juzgado de Familia N° 2 de Olavarría, en el marco de un proceso de determinación de la capacidad jurídica.

La decisión de primera instancia había rechazado la regulación de honorarios del Curador Oficial y se apoyaba, en parte central, en doctrina y jurisprudencia citadas como fundamento. Al analizar el recurso de apelación, la Cámara intentó verificar esas fuentes a través de la Biblioteca Departamental y del propio juzgado de origen, pero no logró encontrarlas.

En ese contexto, el tribunal sostuvo que podía inferirse un uso inadecuado de herramientas de inteligencia artificial, aclarando que su utilización no está prohibida, pero exige un control especialmente responsable. En particular, advirtió sobre el riesgo de “alucinaciones” de la IA, es decir, respuestas falsas o inexactas presentadas de manera convincente.

La Cámara concluyó que, al no haberse verificado la información citada y al constituir esas citas la fundamentación esencial de la resolución, se había incumplido el deber de motivación de las decisiones judiciales. Por ello, declaró la nulidad de la resolución y ordenó remitir la causa al juzgado de origen para que dicte un nuevo pronunciamiento.

El fallo refuerza la importancia de implementar controles humanos sobre cualquier uso de IA en tareas jurídicas, especialmente cuando se trata de citas normativas, doctrinarias o jurisprudenciales.