ESCUCHAREl diputado nacional Juan Brügge (HCF) presentó un proyecto de ley que busca penalizar el uso no autorizado de imágenes personales con inteligencia artificial (IA), para proteger la integridad y privacidad frente al avance tecnológico.
La iniciativa -que se enmarca en la preocupación global por el fenómeno de las denominadas “deepfakes”-contiene sanciones severas para quienes utilicen aquella tecnología con fines ofensivos o dañinos.
Prevé penas de prisión de cuatro a ocho años para los individuos que “sin el consentimiento informado y expreso de la persona implicada o de sus herederos, generen o modifiquen videos, audios, rostros de personas, grabaciones de voz y escenarios ficticios con la intención de hacerlos parecer reales, en detrimento de las actividades personales y profesionales de alguna persona humana o jurídica”.
En tanto, contempla agravantes si las acciones son cometidas contra menores de edad, personas con discapacidad o en estado de vulnerabilidad, con penas de seis a 10 años.
El proyecto aclara que estarán exceptuados de la penalidad los contenidos “generados y modificados utilizando técnicas de inteligencia artificial que sean claramente identificados y que tengan fines de interés general, educativo, histórico, científico o cultural, así como parodias y ejercicios del derecho a informar, siempre que se refieran a funcionarios públicos o personas de notoria exposición pública”.
Código Penal
La iniciativa incorpora el artículo 129 bis al Código Penal (CP), estableciendo cuatro a ocho años de cárcel para quienes utilicen la IA para “crear, exponer, exhibir, comunicar, distribuir, reproducir, transmitir, comercializar o intercambiar imágenes, audios o videos de índole sexual íntimo de una persona o grupo de personas sin su consentimiento”. Si los afectados son menores de 18 años la sanción va de seis a 10 años.
Adicionalmente, propone la adición al CP del artículo 157 ter, que fija prisión de dos a cuatro años para quienes supriman, oculten o editen “el aviso claro y visible de que un contenido ha sido generado o modificado utilizando inteligencia artificial”.
Brügge argumentó que la rápida evolución de la IA generó nuevos desafíos para la humanidad, “convirtiéndose en una herramienta tanto útil como potencialmente dañina”.
Explicó además que el fenómeno de las “deepfakes” permite generar contenidos audiovisuales manipulados que pueden desinformar y dañar la imagen y reputación de las personas.
El texto que elaboró el cordobés está en línea con iniciativas legislativas en otros países de América Latina, como Brasil, México y Colombia, que trabajan en regulaciones sobre el uso indebido de “deepfakes”, con el fin de proteger la integridad de las instituciones y los derechos de las personas frente a la manipulación digital.
“Pornografía sintética”
Hay varias propuestas en el Congreso para garantizar el uso ético de la IA. Algunas se vinculan con la difusión de imágenes de contenido sexual a través de la tecnología.
A principios de este año, el diputado cordobés Oscar Agost Carreño presentó una iniciativa que, además de introducir modificaciones al CP para tipificar la denominada “pornografía sintética”, busca establecer parámetros legales respecto de futuras controversias sobre la propiedad intelectual y los derechos personalísimos.
“El derecho argentino se tiene que adaptar a este paradigma naciente de manera proactiva”, afirmó el legislador, aunque postuló que es necesario legislar con precaución “para evitar dañar una industria naciente que promete ser muy beneficiosa”, indicó el legislador.
Agost Carreño planteó incorporar el artículo 53 bis al Código Civil y Comercial (CC), a fin de que determine que, para producir y difundir material audiovisual sintético basado en la imagen o la voz de una persona, de cualquier modo que se haga, es necesario su consentimiento, salvo que “exista un interés científico, cultural o educacional prioritario” y “se tomen las precauciones suficientes para evitar un daño innecesario”.
En el caso de fallecidos, precisa que deberán prestar el consentimiento sus herederos o la persona designada por el causante en una disposición de última voluntad. “Si hay desacuerdo entre herederos de un mismo grado, resuelve el juez. Pasados 20 años desde la muerte, la reproducción no ofensiva es libre”, dice el texto.
“Son muchos los casos en los que de manera negligente o maliciosa se utilizan las IA para producir imágenes de personas sin su consentimiento”, fundamentó el diputado. Entre los más conocidos, citó el del actor estadounidense Tom Hanks, quien denunció públicamente que se utilizó su imagen para la promoción de planes dentales.
Menores
Por otro lado, vía reforma del CP, el legislador propuso un endurecimiento de las penas por producir “pornografía sintética”. Para los casos en los que la representación generada por IA se inspire en la imagen de un menor de 18 años, la iniciativa contempla prisión de tres a seis años. Las mismas penas regirán para quienes faciliten o distribuyan “programas, códigos y demás sistemas informáticos basados en Inteligencia Artificial para ser utilizado para la producción de las representaciones”.
También se irán a doble las sanciones para quienes utilicen el material de pornografía sintética para extorsionar, acosar, difamar o de cualquier manera amedrentar a la víctima.
“La pornografía sintética es un problema que surgió con las IA yrepresenta un peligro inminente contra la integridad de los ciudadanos, afectando particularmente a mujeres, niños, niñas y adolescentes», advirtió Agost Carreño.
