Acerca del uso de inteligencia artificial y las consideraciones éticas de la Comisión Iberoamericana de Ética Judicial (CIEJ) – Dictamen 24

Nuestra última entrega al diario Comercio y Justicia fue el pasado día miércoles 20 de septiembre, ocasión en la que pudimos hacer un comentario al dictamen N°26 de la CIEJ, que se ocupa de los comportamientos con proyección pública que tienen jueces/juezas. Adelantamos, también, que se habían dictado otros dos; ahora nos ocupamos del que lleva el número 24. 

El mismo día ya citado, en la ciudad de Lima, se reunía la Cumbre Judicial Iberoamericana. En esa importante reunión bianual, se estudian y reciben los resultado de los dos años de gestión cumplidos y, por lo general, se hacen las renovaciones que corresponden de los miembros integrantes de las diferentes comisiones, que en su mayoría son integradas por jueces/juezas de la Corte Suprema del nombrado país que los propone, y votados por los demás integrantes de países de la Cumbre. 

Para nuestra completa alegría, satisfacción y producción académica la Cumbre Judicial Iberoamericana ha ratificado y renovado casi en su totalidad a los integrantes de la anterior comisión y por lo tanto, mantenido a su secretario Ejecutivo, David Ordóñez Solís (España), y sus comisionados: José M. Monteiro Correia (Portugal), Farah Saucedo Pérez (Cuba), Luis P. Sánchez Rodríguez (Costa Rica), Elena Martínez Rosso (Uruguay), Justiniano Montero Montero (República Dominicana), Eduardo Fernández Mendía (Argentina) y se designó a nuevos integrantes a quienes saludamos, ellos son: Fátima Nancy Andrighi (Brasil), María E. López Arias (Panamá) y Adelita Ravanales Arriagada (Chile).

Tal como hemos dicho, la labor que se ha cumplido en el último período a cargo de la Secretaría Ejecutiva de David Ordoñez Solís ha sido de una gran laboriosidad, así como de meditados y centrales dictámenes. No dudamos de que, en el futuro, esa labor seguirá siendo nutriente suficiente para el Código Iberoamericano de Ética Judicial. Felicitaciones por la continuidad, entonces.

El dictamen del cual ahora hacemos una breve esquela es el N°24 y lleva por denominación sobre ‘El uso ético de la inteligencia artificial en la labor jurisdiccional’, y estuvo a cargo del Comisionado, Luis Porfirio Sánchez Rodríguez, de la República de Costa Rica. El nombrado documento es ligeramente más extenso que otros últimos dictámenes: está conformado por 64 parágrafos, que se extienden a lo largo de cinco secciones, siendo la última como es de práctica, las recomendaciones éticas propiamente de la CIEJ en la materia. Las anteriores son: I) La preocupación ética por el uso de la IA en la justicia, II) La IA y su uso en el ejercicio de la función jurisdiccional, III) Las oportunidades y los retos en el uso de la IA en el ejercicio de la función judicial, IV) Los aspectos éticos del uso de la IA a la luz del Código Iberoamericano de Ética Judicial.

En primer lugar no se puede dejar de señalar la dificultad operativa que es, sin duda, formular un dictamen que como tal, son orientaciones respecto a las prácticas judiciales a los poderes judiciales que integran la Cumbre Judicial Iberoamericana, de una materia que -en rigor de verdad- se encuentra en completa ebullición y transformación. Se corre el riesgo, sin duda, de quedar rápidamente en desventaja frente a la vertiginosidad del flujo tecnológico, pero es preferible que pueda suceder ello y no el no haber mirado el problema cuando resulta crucial hacerlo, justamente por el estado de requerimientos que en tal materia se formulan.

En tal operación difícil desde la percepción del problema de la IA, el comisionado Luis P. Sánchez Rodríguez no sólo ha sabido encontrar un excelente equilibrio de razón y acción sino que ha sido cauteloso, pero a la vez suficientemente firme con las recomendaciones que ha deslizado y que la CIEJ ha hecho propias y que serán de una gran utilidad práctica. 

El dictamen recuerda que en el año 2020, se dictó el noveno dictamen a cargo del comisionado Eduardo Fernández Mendía, en el que se hicieron las primeras aproximaciones a la materia en cuanto al uso de las nuevas tecnologías por los jueces; ahora se lo focaliza al problema en modo excluyente en la IA. Se recuerdan también los pocos instrumentos internacionales que para dicha fecha estaban en curso y se mencionan ahora, los provechos que se pueden tomar de los posteriores, en especial del producido por Unesco, en el 2021 intitulado “Recomendación sobre la ética de la inteligencia artificial”, que tiene como aspiración central el aseguramiento y presencia de la ponderación ética en todas las etapas que se correspondan con los sistemas de inteligencia artificial (IA). En dicho documento hay un señalamiento importante en especial para los poderes judiciales, en el que se pone la atención que dichas instituciones aseguren la protección de los derechos humanos, el Estado de derecho, la independencia judicial y el principio de supervisión humana.

Se destacan luego, documentos más modernos como el de OCDE de 2022 (“Uso estratégico y responsable de la IA en el sector público de América Latina y el Caribe”) y los documentos preparatorios que van quedando en la Unión Europea (2023) en su proyecto de sancionar una “Ley de IA”, en la cual ya se ha desarrollado el concepto que son de alto riesgo, ciertos sistemas de IA destinados a la administración de justicia y en coordinación con ello, el mismo Parlamento Europeo ha producido enmiendas al documento anterior con fecha 14.VI.23, en las cuales ha materializado la voluntad de señalar, que la “toma de decisiones finales debe seguir siendo una actividad y una decisión de origen humano”.

No hay duda alguna para la CIEJ, que la IA puede contribuir a reducir la mora judicial y la duración de los procesos y en algunos países, se utiliza para tareas sencillas y resolución de casos de menor cuantía. También en otros, se la aprovecha como instrumento predictivo de comportamientos reincidentales de personas y por lo tanto, con evidente influencia sobre la determinación sentencial.

Se enuncian las principales dificultades que la IA plantea en el escenario jurisdiccional y que se instalan desde los núcleos por general no estatales, en donde se desarrollan los algoritmos, hasta la afectación a garantías de derechos fundamentales que se pueden vulnerar. A más de los sesgos y prejuicios humanos que se pueden reproducir. Se indica la facilidad con que se pueden fabricar diversos tipos de pruebas a partir de la IA y por ello, se advierte acerca de la máxima precaución que corresponde colocar cuando ella es utilizada.

Frente a todo ese conjunto de eventos (y otros tantos que no indicamos ahora), se reitera el bajo umbral normativo existente en la materia, concluyendo el apartado III que de ello se ha ocupado, con un párrafo que en nuestro parecer tiene gran centralidad. Se indica: “(…) la IA carece de capacidad de juicio moral, por lo que no puede comprender el contexto emocional o psicológico de una situación concreta” y rescata el valor de la “discrecionalidad como dimensión inherente a la decisión judicial” (parágrafo 40).

El IV apartado, se ocupa de un mapeo en el Código Iberoamericano de ciertos artículos que realzan la condición inevitablemente humana de juzgar, postulando que sin jueces humanos se desnaturaliza el sistema judicial de inspiración democrática basado en la confianza social, como que la vertiente de la imparcialidad se pudiera ver afectada por sesgos y prejuicios del sistema y otros aspectos de tenor semejante.

A la luz de todo ello, el dictamen pasa a brindar un conjunto de recomendaciones que se atienden en los parágrafos 51 a 64 y de los cuales, hacemos un extracto. Pues se parte, que la IA puede ser de gran colaboración en la práctica judicial y no es cuestión de negarla, sino de supervisarla o revisarla por un humano, por ello es que la función de juzgar y tomar decisiones, debe continuar siendo una función propia de un juez/jueza. 

Desde ese punto de vista se indica que debiera descartarse toda utilización de IA para hacer predicciones de reincidencia de personas en juicio, como tampoco encomendar a la IA, técnicas de ponderación en las decisiones; sino solo aquellas labores repetitivas y que generan patrones de un mismo comportamiento.

Se destaca la importancia que los desarrollos de IA vinculados con administración de justicia, deben basarse en algoritmos de caja blanca y por ello, permitir su trazabilidad; y por último en el limitado análisis que apuntamos, no se puede despreciar el llamado a orientar programas de capacitación para jueces en dicha materia, no sólo en uso sino también en responsabilidades que importa la implementación de la IA y que tal labor, deberá tener muy en cuenta la dimensión ética del uso de la IA.