ESCUCHARLos sistemas de inteligencia artificial (IA) generan grandes oportunidades para la innovación tecnológica, para beneficio de toda la sociedad pero también presentan desafíos legales y éticos, por lo que es un tiempo crítico para asegurarse de que sea desarrollada e implementada en respeto a la ley y a los estándares jurídicos consolidados, expresa la American Bar Association (ABA), que es el Colegio de Abogados de Estados Unidos.
La ABA emitió un comunicado en el que insta a las organizaciones que diseñan, desarrollan implementan y utilizan sistemas y capacidades de IA a seguir tres principios básicos: supervisión, responsabilidad y trazabilidad.
El primero establece que los desarrolladores, integradores, proveedores y operadores de sistemas y aplicativos de IA deben asegurar que sus productos, servicios, sistemas y aplicativos estén sujetos a la autoridad, supervisión y control humanos. El segundo es que las personas y organizaciones encargadas de estos proyectos deben ser responsables de las consecuencias del uso de productos, servicios, sistemas y aplicativos, incluida cualquier lesión o daño legalmente reconocible causado por sus acciones o uso de sistemas o aplicativos de IA, a menos que hayan tomado medidas razonables para mitigar ese daño o lesión. Finalmente, el tercer principio es que los desarrolladores deben garantizar la transparencia y la trazabilidad de sus productos, servicios, sistemas y aplicativos de IA, mientras se protege la propiedad intelectual asociada, documentando las decisiones claves tomadas con respecto al diseño y riesgo de los conjuntos de datos, procedimientos y resultados subyacentes a sus productos, servicios, sistemas y aplicativos de IA.
La rendición de cuentas, la transparencia y la trazabilidad también juegan roles claves en nuestro sistema legal, por lo que la responsabilidad individual y empresarial, sumada a la autoridad humana, su capacidad de supervisión y control son indispensables, y no es apropiado trasladar la responsabilidad legal a una computadora o a un algoritmo y así liberar a sus creadores y titulares.
Cuando se apliquen estos principios relacionados con la IA, se garantizará que la responsabilidad, la transparencia y la trazabilidad estén integradas en los productos, servicios, sistemas y aplicativos “por diseño”, es decir, desde el comienzo del proceso de desarrollo, lo que motorizará el uso de la IA al maximizar sus beneficios de manera confiable y responsable, mientras se minimizan los riesgos.
Luego de presentar casos de éxito de IA como el sistema “Deep Patient”, que es un asistente de diagnóstico para médicos en un entorno hospitalario, que los ayuda a hacer diagnósticos mejorados en casos difíciles, es capaz de predecir la aparición de ciertas enfermedades psicológicas -como la esquizofrenia- en situaciones en las que los síntomas no son evidentes para los médicos humanos, expresa el informe que se está avanzando en distintas acciones regulatorias. Por ejemplo, la Oficina de Política Científica y Tecnológica (OSTP) de la Casa Blanca ha reconocido la extraordinaria promesa de la IA, así como sus peligros, y la necesidad de avanzar en el desarrollo, adopción y supervisión de aquélla de una manera que se alinee con nuestros valores democráticos.
Cita una gran preocupación al expresar que se deben aclarar los derechos y libertades que esperamos sean respetados por las tecnologías basadas en datos. Se requerirá una discusión para definir cuáles son exactamente, entre ellos el derecho a saber cuándo y cómo la IA está influyendo en un decisión que afecta derechos y libertades civiles; la libertad de no estar sujeto a IA que no haya sido cuidadosamente auditada para garantizar que sea precisa, imparcial y que haya sido capacitada en conjuntos de datos suficientemente representativos; la libertad a la no vigilancia y monitoreo generalizado o discriminatorio en hogar, comunidad y lugar de trabajo; y el derecho a una solvente protección jurídica si el uso de un algoritmo causa perjuicios.
El cuadrilátero tiene en un rincón para los desarrolladores que no quieren dar acceso a los códigos y algoritmos; y en el otro rincón para los abogados, en sus distintos roles, quienes buscan mantener el orden jurídico, siendo la libertad individual el objetivo de máxima. Esta pelea tendrá varios rounds.
(*) Abogado, especialista en derecho informático
