La inteligencia artificial y los desafíos que plantea en los poderes judiciales

COLUMNA DE JUSCOM

Por Matías Enríquez *

“¿Podrían mejorar las instituciones de un gobierno representativo si delegáramos algunos elementos de la gestión en una IA? ¿Tomarían mejores decisiones en política pública?” se preguntan Mariano Sigman y Santiago Bilinkis en el sugerente capítulo titulado “Entre la utopía y la distopía” de “Artificial”, imprescindible para ahondar más en esta temática que llegó para quedarse. En el abanico de argumentos para tratar de aproximarse a una respuesta que esté en sintonía con lo que la mayoría de la gente respondería de forma negativa, los autores realizan otra reflexión sumamente interesante: “El problema evidente de dar entrada a una IA en la función pública y el ejercicio del gobierno es, una vez más, la enorme dificultad de definir la función de valor que guíe sus decisiones”. Y aquí está el quid de la cuestión.

La IA puede ser muy buena llegando a cumplir con un objetivo determinado pero el interrogante gira en torno a quien define ese objetivo y cuál es el proceso –y que transparencia tiene el mismo– para cumplimentar con la tarea ordenada. Aquí tenemos el primer y más complejo escollo vinculado a la misma genética de las IA. Es sabido que hoy en día la misma replica la mente humana pero sin comprenderla del todo, siendo sinceros tampoco creo que los propios seres humanos podamos comprender verdaderamente nuestras mentes en su totalidad. Ese acercamiento deficiente, propio de nuestra ignorancia, embarra el camino del conocimiento para saber qué principios rigen y qué hay verdaderamente detrás de la IA. Es decir, nos acercamos de una manera totalmente arriesgada, que la torna impredecible y no tenemos conocimientos sobre cuáles serán los procedimientos implementados para realizar su tarea.

Este escenario, en el mundillo judicial, plantea todo un desafío que no pareciera ir en sintonía con diferentes cuestiones que hacen a la transparencia e independencia de los procesos judiciales. No tenemos verdadera noción de la precisión con la cual la IA recorre su camino y realiza su trabajo, más allá de que su innegable eficacia. En varios juzgados a lo largo y ancho del país ya se utilizan diferentes herramientas de IA para tratar de optimizar tiempos, desde el análisis predictivo de sentencias, gestión de expedientes o mismo de automatización de tareas administrativas, con el objetivo de brindar el mejor servicio de justicia posible para los ciudadanos. 

El problema no radica tanto en el uso de la IA ni tampoco en la ingenua demonización de la misma desde diferentes sectores sino de los desafíos éticos que plantea a los poderes judiciales. La transparencia de los algoritmos y, sobre todo, los sesgos algorítmicos son dos de los tópicos más cruciales a atender a la hora de analizar este aspecto. Los algoritmos pueden (y se comprobó en diferentes empresas que utilizaron la IA para la contratación de empleados) exacerbar los sesgos existentes en los datos con los cuales son entrenados, los cuales afectan la imparcialidad de las decisiones. Otro aspecto esencial a tener en cuenta es la protección de los datos y la privacidad de los procesos judiciales, como el manejo de datos personales y sensibles que requieren de medidas de seguridad informática para que dichos datos no se filtren.

No obstante, estos problemas no parecieran tener una solución tan inmediata que involucre el accionar (o control) plenamente humano. Entre los diferentes mecanismos que podríamos llegar a tener a mano para poder mitigar un poco su impacto está la realización de auditorías de datos para poder redireccionar un poco el comportamiento de los algoritmos, la simulación de escenarios específicos para evaluar cómo el algoritmo reacciona ante diferentes situaciones, de alguna manera llevándolo a situaciones que no sean tan frecuentes para analizar su accionar o, en un plano más utópico, el desarrollo de algoritmos que sean más “transparentes”, cuyos procesos sean más visibles para evitar caer en posibles sesgos que trastoquen la toma de decisiones.

El futuro es incierto pero apasionante. Demonizar la inteligencia artificial, en ese sentido, parece una tontería. Santificarla también. La inteligencia artificial ya forma parte de nuestras vidas y lo único que queda es emplearla de manera ética y responsable, para asegurarnos que su desarrollo y aplicación se lleven a cabo de una manera más justa, transparente y equitativa.

• Integrante de JusCom.