ESCUCHARPor Matías Altamira *
El Parlamento Europeo aprobó la Ley de Inteligencia Artificial (IA). Según el comunicado de prensa que emitió, garantiza la seguridad y el respeto de los derechos fundamentales e impulsa la innovación. Quizás habría sido más apropiado expresar “pretende garantizar”.
En una columna anterior se analizaron las cámaras de videovigilancia en la Ciudad Autónoma de Buenos Aires y la necesidad de control de su sistema de gestión.
Al respecto, la flamante ley europea dispone que el uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido a priori, salvo en situaciones muy concretas y bien definidas.
Los sistemas de identificación biométrica “en tiempo real” solo se podrán emplear si se cumplen una serie de salvaguardias estrictas; por ejemplo, su uso se limita a un período y lugar específicos y cuenta con una autorización judicial o administrativa previa.
Entre estos casos pueden figurar la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista. Recurrir a aquellos sistemas a posteriori se considera un uso de alto riesgo, que requiere autorización judicial al estar vinculado a un delito penal.
En la nota sobre la CABA se expresaba que las ONGs intervinientes exigían transparencia sobre el sistema de gestión y tratamiento de imágenes en la vía pública. Respecto a esta cuestión, la norma europea dispone que los sistemas de IA de uso general y los modelos en los que se basan deberán cumplir requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos. Además, los modelos más potentes que podrían plantear riesgos sistémicos deberán cumplir requisitos adicionales, como realizar evaluaciones e informar sobre incidentes.
En tanto, las imágenes, contenidos de audio o de vídeo artificiales o manipulados (ultra falsificaciones) deberán etiquetarse claramente como tales.
También se prevén obligaciones claras para otros sistemas de IA de alto riesgo, al ser perjudiciales para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de derecho.
Algunos ejemplos de usos de alto riesgo de la IA son las infraestructuras críticas; el empleo; los servicios públicos y privados esenciales; determinados sistemas de las fuerzas de seguridad; la migración y la gestión aduanera; la justicia y los procesos democráticos.
Estos sistemas deben evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos y contar con supervisión humana.
Se prohíben ciertas aplicaciones de IA que atentan contra los derechos de la ciudadanía, como los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial. También veda el reconocimiento de emociones en el lugar de trabajo y en las escuelas; los sistemas de puntuación ciudadana; la actuación policial predictiva (cuando se base únicamente en el perfil de una persona o en la evaluación de sus características) y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.
Dragos Tudorache, de Rumania, miembro de la Comisión de Libertades Civiles, sostuvo que se ha vinculado el concepto de IA a los valores fundamentales que constituyen la base de nuestras sociedades. Sin embargo, hay mucho trabajo por delante, que va más allá de la propia legislación.
La IA nos empujará a repensar el contrato social en el corazón de nuestras democracias, nuestros modelos educativos, los mercados laborales y la forma en que llevamos a cabo la guerra.
La Ley de IA es un punto de partida para un nuevo modelo de gobernanza construido en torno a la tecnología. Ahora debemos centrarnos en la aplicación práctica de la legislación.
En línea con esta percepción y con el encabezado de la columna, lograr una legislación que regule la Inteligencia Artificial buscando mitigar sus efectos nocivos mientras se estimulan sus beneficios es un hito para la sociedad global. Ahora será decisiva su correcta implementación, sus sistemas de monitoreo y sanción, así como todo lo que se pueda motorizar su faz productiva.
(*) Abogado.
