ESCUCHARAunque en Argentina las experiencias son incipientes, ya hay pruebas pilotos con resultados exitosos a partir de utilizar automatización y predicción en el trabajo de los tribunales. La drástica reducción a segundos, en tareas burocráticas y rutinarias que llevan horas y días, abre una ventana a la mayor eficacia y celeridad en el servicio de justicia. Es fundamental quebrar la resistencia al cambio y lograr decisiones políticas claves
En una concepción amplia y macro, la inteligencia artificial (IA) se basa en obtener, por métodos artificiales, lo que alcanzamos con la inteligencia humana: el reconocimiento de patrones para alcanzar objetivos o resolver problemas.
Mientras su utilización en el mundo avanza a pasos agigantados en múltiples esferas, en el campo judicial es incipiente, aun conociendo que tiene una capacidad de procesamiento de información en grandes volúmenes que acorta los plazos burocráticos. En algunos, genera cierta desconfianza sobre cuáles pueden ser los alcances y límites de su impacto en el derecho y en la actividad de los operadores judiciales. Sin embargo, otros ya lo han implementado y experimentan una drástica disminución de tiempos operativos en cuestiones puntuales, abriendo paso a mayor eficacia y celeridad judicial.
En este informe analizamos, junto a especialistas, catedráticos y jueces, los pasos que está dando la IA en algunos tribunales del país y en Córdoba, casos concretos en marcha y proyecciones.
Uno de los avances en IA y justicia más resonantes en Argentina y el mundo es “Prometea”. El fiscal General adjunto de Buenos Aires y director del Laboratorio de Innovación e Inteligencia Artificial (Ialab) de la Facultad de Derecho de la Universidad de Buenos Aires (UBA), Juan Corvalán, lo creó junto con sus colaboradores en 2017. Había percibido que gran parte del tiempo en tribunales se usa para constatar datos personales e información que se reitera. Buscaba soluciones.
“En el mundo de lo que se llama Inteligencia Artificial y justicia hay dos grandes áreas: la automatización y la predicción. Hoy el desafío es predecir. Automatizar es tecnológicamente sencillo pero a la justicia le cuesta mucho por todos los temas que tiene. No es Google, no es Mercado Libre, la justicia no está preparada para automatizar tareas a gran escala porque tiene sistemas informáticos centralizados y esos sistemas no están preparados para entender las tareas de un juez y automatizarlas, sino para prestar un servicio de expediente y notificación electrónica. Pero no están preparados para decir ‘esta sentencia del juez la voy a hacer en dos, tres o cuatro segundos’, que es lo que hace el sistema de IA”, explica Corvalán, quien es doctor en derecho y juez contencioso en licencia.
“El desafío más grande es el de sistemas predictivos. Entra documentación, de allí la máquina lee, y -sin que haya un humano- sugiere la solución y la redacta”, dice sobre Prometea, mientras que con orgullo describe que fue un sistema íntegramente creado con programación del sector público argentino y hasta tiene su propio libro del BID. Los primeros usos fueron para juicios vinculados a derecho a la vivienda y derecho al trabajo. Hoy se está utilizando para explotación sexual infantil y ciertos problemas ambientales. Esto en el Ministerio Público de la ciudad de Buenos Aires.
Tras Prometea, llegó “Pretoria”, también desarrollado a través del laboratorio de la UBA. Está siendo utilizado por la Corte de Colombia. Es el primer sistema de inteligencia artificial predictivo en un máximo tribunal judicial del mundo. La Corte colombiana recibe, en promedio, 2.700 acciones de tutela por día, de las cuales 1.400 se refieren al derecho a la salud. De los miles de casos que le llegan, la máquina hace un informe de manera automatizada en 10 segundos.
“El laboratorio (Ialab-UBA) hizo dos sistemas predictivos, que es el core de la vanguardia. Hicimos uno para la justicia Civil de Morón (Buenos Aires) que predice si hay que rechazar o no la demanda de accidente de tránsito; y otro para Colombia, que lo que predice es si el caso merece o no tratamiento preferencial y hace un diagnóstico sobre la sentencia del caso.
Avances y obstáculos
Corvalán cuenta que la fiscalía hoy a su cargo hizo convenios con cortes provinciales de la Argentina, para enseñarles su experiencia y compartirles su conocimiento. Entre ellas destaca a La Pampa, Río Negro y Mendoza. Esta última, por ejemplo, tiene programadores que están aprendiendo en la propia fiscalía porteña; armó un equipo de innovación y 25 funcionarios se capacitaron en el posgrado de inteligencia artificial y derecho de la UBA. Ya hizo múltiples pruebas pilotos. Sintetiza: “Lo tomó como una política de Estado”.
Para lograr el salto, resalta que depende y “mucho” de la voluntad política de las cabezas de los poderes judiciales para abordar un tema que es complejo.
Además, requiere colaboración de los sistemas informáticos locales, “que a veces no suelen ser unos aliados porque en parte temen y en parte dicen que no podrán hacer esto y que les quedará un problema a ellos”.
Al respecto, y para ser más gráfico, utiliza una imagen del deporte. Trabajar con inteligencia artificial en la justicia sería como pasar a jugar en otra liga. “La IA requiere un ecosistema, no es que compro un software y me lo bajo (en la computadora). Se necesita gente que entrene los datos, que entre en el sistema, quien lidere el proyecto, alguien que lo integre a los otros sistemas y alguien que lo escale. Todo eso no se puede hacer con cuatro informáticos nombrados para todo un Poder Judicial. Hay un problema conceptual con quien toma decisiones, no entienden que no se soluciona contratando un par de informáticos y ése es el principal obstáculo hoy para que la IA escale”, se lamenta.
Para el experto argentino, es fundamental entender que se trata de un nuevo paradigma. “Esto reemplaza o complementa muy disruptivamente capacidades cognitivas. Esto está en otra liga, hace en un par de segundos una sentencia. Y para esta liga hay que cambiar los jugadores, no vamos con el mismo equipo a jugar este partido. Se necesita que el equipo entienda que va a ir a Marte o a otra atmósfera, otra temperatura, y por eso esto va a tardar mucho, de hecho está tardando tanto en ser implementado”, concluye.
Una máquina que resuelva o que asista al juez
En Estonia y China ya hay pruebas pilotos de resoluciones que firma directamente la máquina, son cuestiones que tienen que ver con juicios de poca monta. “Lo que se haría en Argentina los próximos 10 años”, proyecta Corvalán (foto). “Estoy de licencia pero soy juez, contencioso, mi juzgado tenía 20 mil expedientes y tenía tablero de control, siempre fui un obsesivo de innovar”, dice con conocimiento del paño.
Aporta un dato concreto: 70% o más de los juicios de Argentina y Latinoamérica son juicios sencillos. La justicia penal se lleva solamente tres o cuatro por ciento, cuantitativamente hablando. “El derecho en términos cuantitativos es tributario, ejecutivos, civiles, estos se llevan 80%”.
Desde esa experiencia en terreno, brinda una opinión fundada: “Mi opinión es que los juicios de poca monta, los conflictos menores como tributos inferiores a $50.000, defensa al consumidor a gran escala, conflictos de vecindad muy pequeños, deberían ser resueltos por las máquinas y con un recurso de apelación humano. Lo que haría la máquina es resolver rápidamente el conflicto, entiende lo que pasó en la jurisprudencia histórica. Y así la justicia se acelera exponencialmente. Y eso lo haría habilitando con una norma que se puede hacer eso y que los jueces validen el algoritmo, entonces el algoritmo funciona porque hay un humano detrás que se fija que está resolviendo en base a lo que el humano quiere que resuelva”.
Respecto a la situación en otros fueros, como Penal, Laboral y Familia, Corvalán enfoca la IA como asistente del juez “que dice cómo se debería fallar, cómo es la jurisprudencia o haga informes en segundos sobre el problema que se vino a resolver y sugiera posibles soluciones, y el juez es el que le agrega valor o lo resuelve en esa línea, pero lo razona, lo justifica, le pone el toque humano competencial”.
La experiencia de la jueza pionera en implementar IA
Gabriela Gil es la primera jueza del país que aplica sistemas predictivos en su juzgado desde 2018. Es titular del Juzgado Civil y Comercial N°11 del departamento judicial de Morón (Buenos Aires), “de altísima litigiosidad y muchísimos expedientes” describe la magistrada. Además, trabaja ad honorem en el Ialab de la UBA.
Introduce su propia experiencia en IA con una pregunta: “¿Qué es lo que viene a innovar el primer proyecto sobre juicios ejecutivos? Responde: “Saca de manera simultánea el primer despacho (donde se abre la acción) y simultáneamente el mandamiento de intimación y, para el caso que se hubiera pedido, el oficio de embargo. Lo que trae ahora este proceso es que, de manera simultánea, sale el auto y todos los documentos asociados. Éste es el gran salto: fin del confronte, fin de la canastilla, fin del abogado en la mesa. Estamos bajando de muchas horas y distintas intervenciones a un segundo”.
Resalta que su equipo en el juzgado y ella son de innovar en herramientas para brindar un mejor servicio de justicia. En ese sentido, la magistrada avanzó en la algoritmización del proceso sucesorio, en el que todo tiene una respuesta que está dada por la ley, en el que no hay una evaluación de la prueba. “Aquí hay constatación documental del dato denunciado. Constatada la documental tiene todo el arbolado de todos los supuestos de derecho sucesorio. Ésta es otra automatización”.
De manera contundente afirma que la inteligencia artificial nunca va a sustituir al juez porque la evaluación ponderatoria de la prueba la seguirá haciendo el magistrado. “Cuando uno puede sacar la declaratoria en el día, entonces puedo estar encargándome de hablar a un instituto de salud mental durante una hora y media con un asistente social para ver qué pasa con una persona con problemas cognitivos y qué pasa con una cuestión familiar que hace a derechos humanos. El juez puede dedicarse a las cosas para las que no hay ninguna máquina que pueda hacer el trabajo”, compara.
En Córdoba, puntapié inicial de los Juzgados Ejecutivos Fiscales
La justicia cordobesa comenzó una prueba de automatización hace casi un año. ¿De qué se trata y en qué estadío se encuentra? Lo cuentan la analista en sistemas Claudia Esteban, subdirectora y jefa de la subárea de Investigación, desarrollo, e innovación tecnológica del Poder Judicial de Córdoba, y la jueza de Ejecución Fiscal Claudia Smania (foto), quien atiende casi 50 mil demandas por año.
Con la experiencia del uso del expediente electrónico, comenzó una intervención inicial con inteligencia artificial, con una instancia de automatización en el proceso de admisión de demanda en los juzgados ejecutivos fiscales de Capital. La prueba es con la secretaría de gestión común de los tres juzgados.
Según precisa la jueza, están probando automatizar la admisión de demanda “que vendría a ser en primer lugar el control del título y luego su corroboración contra la demanda, para que podamos lograr el primer despacho”.
Esteban complementa: “El procedimiento que queremos automatizar lo que hace es que con base en dos archivos que son imágenes, la demanda y el título ejecutivo de la demanda, las analiza y verifica que se cumplan todos los requisitos formales para la admisión. Por ejemplo: deudas de impuestos de un auto. A la máquina le metemos los dos documentos y nos dice si cumplen los requisitos. Si es “no”, punto por punto qué analizó y los resultados de los análisis. Eso ya lo están probando: comprobación visual y uno de la máquina. Con uno se tarda media hora aproximadamente -comprobar entre documentos- y con la otra se tarda menos de 10 segundos”. Esto hay que imaginarlo en un volumen. En Córdoba, los juicios ejecutivos fiscales son 20% de todos los juicios de toda Capital.
La empresa que trabajó en esta instancia ya entregó el producto, lo están probando y lo tienen en los propios servidores. “Ahora vamos a integrar este resultado del análisis de la app que compramos con nuestro Sistema de Administración de Causas (SAC). Entonces, le van a entrar los dos títulos y le va a salir dentro del expediente el decreto de admisión o el decreto de no admisión por tal causa”, explica la analista en sistemas quien celebra que en etapa de prueba está siendo 100% certero.
Para la jueza Smania significa un gran paso. Fue un objetivo estratégico la despapelización total, “un enorme paso para pasar a lo que sería hoy el Derecho 4.0, hoy no podemos quedar al margen de lo disruptivo de la inteligencia artificial y poder pasar a la automatización. Es por eso que encaramos a los tres jueces, conjuntamente con el área técnica, este proyecto de aplicar inteligencia artificial a los procesos sencillos”.
Si bien distingue que lo que se está aplicando no es la denominada IA “fuerte” sino “débil” porque no se trata de una red neuronal sino únicamente una automatización. “Es una habilidad aumentada que se nos brinda. Así como nadie reprocharía que vamos a hacer una ecuación compleja si no tuviéramos al lado una calculadora, confiamos en el resultado, estamos ante la posibilidad de aplicar en este proceso.
Ahorro de tiempo
Es un gran desafío analizar cuáles son los estadios, las etapas que pueden llegar a ser automatizables”, concluye la jueza, quien imaginó para el futuro poder hablar del cómputo de plazos y control de liquidaciones.
Para graficar el ahorro de tiempo con la máquina, Verónica Viglianco, abogada e integrante del Poder Judicial local, hizo los cálculos en el marco de un trabajo para una diplomatura en materia de Derecho 4.0 en la Universidad Austral.
Para la tarea que hoy está a prueba bajo automatización en Córdoba, contabilizó que por lo menos se requieren 28 clics para cada operación. Contabilizó que por cada demanda se puede demorar entre cinco y seis minutos desde que se comienza el trabajo (asignación), hasta que se termina (guardando la asignación del firmante). En la actual prueba automatizada eso lleva apenas segundos. Cabe mencionar que se asignan aproximadamente 50 demandas por empleado, por día. En consecuencia, se emplea cinco horas por día en realizar esta tarea totalmente automatizable.
¿Qué están probando otras provincias?
* Santiago del Estero
Producción de prueba informativa automatizada: se trabaja sobre consulta en línea y con respuesta a organismos nacionales con bases públicas y abiertas. Ejemplo: consulta a la base de datos de recaudación impositiva provincial.
Beneficio de litigar sin gastos: en materia civil, se trabaja para automatizar el inicio del beneficio con los oficios simplificados para ver el caudal económico que tiene el peticionante, y, con eso, se va a resolver si se va a eximir o no de la prestación de testigos.
* Mendoza
Cuestiones de familia y violencia. Una jueza de paz de Lavalle llevó a la mesa de trabajo del Ialab en UBA un problema. Cuando sale una medida restrictiva del acercamiento, aparte del decreto se tiene que confeccionar una serie de oficios; a veces son hasta siete: uno que va a la propia víctima para solicitar asistencia de manera más ágil con el personal policial, otro que pide un turno con asistencia psicológica, otro que va sorteando un abogado, otro que va a la policía por si la persona es conviviente y tiene que retirar sus pertenencias, otro al Colegio de Abogados, otro a la escuela de los chicos para saber si esa persona tiene prohibición de acercamiento a los menores. Por todo ello, la jueza tendrá que hacer muchos decretos y muchos documentos que tiene que “copiar y pegar” y muchas veces la víctima en ese momento no puede quedarse o espera horas para llevarse todos los oficios de manera simultánea. Mendoza comenzará a probar esta automatización convirtiéndose en pionera en esta materia específica. Mientras la jueza le toma la entrevista a la víctima, un oficial le estará entregando siete oficios de manera automática y simultánea.
* Corrientes
Amparos previsionales. En un juzgado Multifuero están realizando una prueba piloto en casos en que una persona solicita ser incluida en ciertos rubros en temas previsionales. La jueza contesta cinco preguntas a un bot que arma la resolución. Lo que antes hacía en 35 minutos, ahora lo hace en tres.
ENTREVISTA
El papel de la máquina. Del auxilio y consejo a la toma de decisión judicial
Avances y dilemas del futuro con el juez robot en el horizonte
“La inteligencia artificial avanza, avanza, avanza y prácticamente los únicos que no se han dado cuenta han sido los jueces hasta hace un par de años”, afirma José Cafferata Nores, ex vocal del TSJ. Resalta utilidad y advierte sobre complicaciones que asomarán en cuestiones a resolver donde hay “dos bibliotecas”
¿Cuán cerca estamos del juez robot? “Mirando hacia el futuro, creemos que más pronto que tarde será realidad el advenimiento -que preferimos paulatino, progresivo y acotado- de un software de apoyo (e incluso de sustitución) del juzgamiento judicial, figuradamente denominado ´juez robot´”, afirma a Comercio y Justicia José Cafferata Nores (foto), especialista en derecho penal y procesal penal, ex vocal del Superior Tribunal de Justicia de Córdoba.
El catedrático señala que, partiendo del avance de la inteligencia artificial en la colaboración con la actividad judicial y abogadil, “aventuramos que ella iba a terminar compartiendo con los jueces la tarea de juzgar, aunque señalamos que debería empezarse por experimentar en casos rutinarios o sencillos, comunes a cualquier legislación -como juicios por cobro de impuestos; contravenciones, delitos menores, cómputos de pena- ya que la complicación se presenta frente a las diferentes competencias legislativas y judiciales, a casos especiales o graves y sobre todo en los temas en donde existen ´dos bibliotecas”.
Cafferata Nores distinguió la trayectoria de otros especialistas en el país. “Hay quienes se han ocupado del tema con mucha más profundidad y seriedad. Conocemos la tarea de investigación y experimentación de Daniel Pastor y Juan Corvalán, quienes las han reflejado en múltiples actividades y publicaciones”. Como ejemplos citó: de Corvalán Inteligencia artificial, automatización y predicciones en el derecho, reclamando por una IA interpretable para que los “modelos de toma de decisiones sean transparentes, confiables, replicables y explicables”. Luego, de Pastor y Martín Haissiner: Neurociencias, tecnologías disruptivas y tribunales digitales. Actualmente, éstos están desarrollando programas de IA auxiliares a la labor judicial -individualización de casos penales prescriptos-.
En este contexto, el ex TSJ reflexionó, que, al igual que decía Ernesto Sabato, “a medida que nos relacionamos de manera abstracta más nos alejamos del corazón de las cosas y una indiferencia metafísica se adueña de nosotros mientras toman el poder entidades sin sangre ni nombre propio”, aunque agregó que no hay que soslayar que hasta ahora no se ha demostrado que esas “entidades” se “auto-empoderen”.
– ¿Cuál es su visión acerca de la Inteligencia Artificial en la justicia?
– Creo que la inteligencia artificial avanza, avanza, avanza y que prácticamente los únicos que no se han dado cuenta han sido los jueces hasta hace un par de años. Cuando largamos ese tema, largamos un curso en la Universidad Nacional de Córdoba (UNC), en el que tratamos bastante de este punto y de otras cuestiones vinculadas a la actividad de la justicia apoyada con software de inteligencia artificial. De ese cursos surgieron dos cosas: la opinión del gobierno, que en lugar de seguir creando fiscalías de delitos tan comunes, se podría crear una fiscalía para delitos informáticos. Lo segundo, uno de los disertantes, Franco Pilnik, fue designado como fiscal (de esa fiscalía). La inteligencia artificial también sirve para cometer delitos y por lo tanto tiene que haber una respuesta estatal específica. También participaron Marcos Salt, abogado especialista en evidencia digital; Daniela Dupuy, fiscal Penal especializada en ciberdelitos; y Juan Corvalán, el mayor estudioso de este tema, inventor del primer programa Prometea que tiene una cantidad de ayuda para la actividad judicial. También estuvo Francisco Tamarit, ex rector de la UNC, quien dio explicación de cómo funcionaba y para qué servía un algoritmo.
– ¿Cómo considera que sirve la IA a la justicia?
– La Inteligencia Artificial está sirviendo como materia de auxilio a la justicia, como ayuda para los abogados, por la velocidad que tiene en seleccionar los casos, en ayuda a los fiscales para seleccionar los documentos, a los jueces para seleccionar la jurisprudencia.
De ahí en adelante, decimos “robot”, pero es un software de decisión, ya no de consejo. Creo que se puede implementar en cosas “de cajón”, como cobro de impuestos, apremios, juicios ejecutivos, aquello que no tiene dos bibliotecas.
La problemática que presenta un software general es cuando tenemos dos bibliotecas, cuando frente a una misma norma, y al mismo caso que se quiere encuadrar en la norma, la jurisprudencia obtienes soluciones distintas y contradictorias.
Junto con el expediente digital y junto con los juicios virtuales, esto va a venir calladito hasta que irrumpa en tareas auxiliares.
Daniel Pastor, un gran estudioso en este tema y gran procesalista, está ensayando en este momento un software de resolución de prescripción. Pastor dice que ya estamos bajo jueces máquinas. Un ejemplo de ello es cuando se pasa por una videocámara con exceso de velocidad y ya se es denunciado, acusado, probado y juzgado por una máquina.
Noto como positivo, sobre todo en la órbita civil, que le están llevando el apunte.
– Con la IA aparece la tan mencionada “resistencia al cambio” en la comunidad judicial. ¿Qué analiza al respecto?
– Mientras nos distraigamos en esto de que hay que convencer a los operadores, todos los negocios que se están haciendo a través de las grandes empresas que se están ocupando con mucha fuerza de todo esto nos van a terminar sorprendiendo.
Al concluir, Cafferatta Nores, se refirió a la “realidad líquida” en la que estamos inmersos como sociedad, realidad que “si no le damos una campana de alarma nos va a llevar por delante”. Y concluyó con una lección del historiador israelí Yuval Noah Harari. “Harari tiene una pregunta que nos tenemos que hacer todos: ¿qué no estoy viendo? ¿qué me estoy perdiendo?
Tres aprendizajes para tener en cuenta
1* Resistencia al cambio y falta de incentivos
“El Poder Judicial está en otra galaxia, está en el siglo 19 entrando al 20. Me parece que uno de los problemas sistémicos de la justicia, pero no estoy diciendo que haya que botar al juez ni que haya que removerlos, es una cuestión de incentivos. Cuando hay seres humanos que no pueden ser desplazados por regla, se genera algo que no es cognitivo, es el problema del homo sapiens, se genera una sensación de mantenerse en el statu quo porque se está allí. No es que el juez sea malo o bueno, es humano. Los humanos cuando sabemos que vas a tener algo para siempre, actuamos diferente que cuando nos vamos a otro lugar. Ése es el principal problema para innovar en la justicia en mi opinión, la falta de incentivos: para qué lo voy a hacer si total no me voy a ir de aquí. No hay organización que sea así, eso explica en gran parte por qué no se innova en la justicia, porque en una empresa no se innova y desaparece, desaparece la empresa, el trabajador, el cliente”.
Juan Corvalán, director del Laboratorio de Innovación e Inteligencia Artificial (Ialab) de la Facultad de Derecho.
2* Obligados a discutir lo disruptivo y la innovación
“Ésta es una oportunidad para adquirir estas nuevas habilidades blandas que necesitamos los abogados, flexibilidad ante los cambios. Me detengo en este lado luminoso de la Inteligencia Artificial (IA) y no en el lado oscuro que existe, desde la preocupación desde la ética, la filosofía, respecto de lo que podría llegar a implicar la adopción de decisiones judiciales en el futuro.
Cuando se sintetiza IA, siempre me gustaría decir Inteligencia humana aumentada, lo que necesitamos para ser más rápidos, más eficaces. Estamos obligados, toda la comunidad jurídica, desde lo funcional, hasta el abogado, lo académico a generar canales de discusión e innovación frente a lo disruptivo. Dar el paso hacia la automatización, con resguardo de los datos personales y a los derechos humanos.
Claudia Smania, jueza de Ejecución Fiscal de Córdoba.
3* Riesgos de sesgo advertidos en Estados Unidos
En el mundo se debate los riesgos de sesgos que puedan implicar decisiones de una máquina por ejemplo a la hora de juzgar casos penales. Hay voces que cuestionan con qué criterios actúa un algoritmo.
Uno de los ejemplos emblemáticos bajo estudio es el del Programa Compas (siglas de Correctional Offender Management Profiling for Alternative Sanctions), que se usa en varios estados de Estados Unidos. Se trata de un software que se utiliza para analizar, según los antecedentes penales de un acusado, sus probabilidades de reincidir. El programa plantea un cuestionario al acusado. Una vez que este responde todas las preguntas, el sistema calcula el riesgo de reincidencia, por lo que el juez decide, por ejemplo, si conviene o no otorgar la libertad condicional mientras se completa el proceso judicial.Un caso reconocido que cuestiona Compas es el de Eric Loomis, quien fue sentenciado a siete años de prisión por eludir el control policial y manejar un vehículo sin el consentimiento de su dueño. Sus abogados rechazaron la condena usando distintos argumentos, uno de ellos que Compas había sido desarrollado por una empresa privada y la información sobre cómo funcionaba el algoritmo nunca había sido revelada. También, que la evaluación de riesgo tomó en cuenta información sobre el género y la información racial.
Por otra parte, un estudio sobre 10.000 acusados en el Estado de Florida, publicado en 2016 por el grupo de investigación ProPublica, mostró que las personas negras eran a menudo calificadas con altas probabilidades de reincidir, mientras que los blancos eran considerados menos proclives a cometer nuevos crímenes.
