Pautas para el uso de IA en tribunales

La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) presentó su Guía para el uso de sistemas de IA en cortes y tribunales. Este documento establece principios y recomendaciones para desarrollar, adoptar y utilizar sistemas de inteligencia artificial (IA) en el ámbito judicial.

La publicación se inscribe en un escenario de creciente incorporación de herramientas basadas en IA por parte de tribunales, jueces y operadores jurídicos, utilizadas principalmente para tareas de apoyo como la gestión de expedientes, la búsqueda y clasificación de documentos, la traducción automática, la transcripción de audiencias y la asistencia en la redacción de textos jurídicos.

Según el organismo, si bien estas tecnologías pueden contribuir a mejorar la eficiencia y el acceso a la justicia, su implementación sin marcos claros de gobernanza puede generar riesgos para el funcionamiento del sistema judicial. En ese sentido, el documento propone un conjunto de pautas mínimas orientadas a garantizar que el uso de IA no afecte principios esenciales como el debido proceso, la igualdad ante la ley, la imparcialidad y la independencia judicial.

Entre sus lineamientos, la Guía sostiene que los sistemas de inteligencia artificial deben ser utilizados como herramientas de apoyo y no como sustitutos del razonamiento jurídico ni del juicio humano. En particular, advierte sobre los límites de los modelos de lenguaje generativo, cuyo funcionamiento se basa en la combinación probabilística de datos lingüísticos y no en la comprensión del significado jurídico de los casos.

La Guía también recomienda que las autoridades judiciales realicen evaluaciones periódicas sobre el uso que sus miembros hacen de estas tecnologías, con el objetivo de identificar buenas prácticas, prevenir usos indebidos y detectar posibles impactos negativos.

Asimismo, la UNESCO destaca la necesidad de adoptar medidas específicas para la protección de datos personales y confidenciales, especialmente cuando se emplean sistemas desarrollados por proveedores externos o de acceso abierto. También, destaca la importancia de prevenir sesgos algorítmicos que puedan afectar de manera desproporcionada a grupos en situación de vulnerabilidad.

Finalmente, el documento remarca que la incorporación de IA en la justicia debe ser gradual, transparente y centrada en las personas, sin delegar funciones jurisdiccionales ni permitir que los sistemas automatizados influyan de forma decisiva en las decisiones judiciales.