ESCUCHAR
La clave para aprovechar el crecimiento de la inteligencia artificial (IA) de manera sostenible será involucrar a sus profesionales de riesgos desde las primeras etapas y, así, generar confianza en sus proyectos de IA generativa, sostiene un informe de la empresa PwC.
Meses atrás, PwC presentó el reporte “Gestión de los riesgos de la IA generativa. Un manual para ejecutivos de riesgos: empezando por la gobernanza” y destacó que adoptar un enfoque basado en el riesgo para la IA generativa le permitirá empezar con el pie digital correcto respecto a reguladores, consumidores y demás partes interesadas. Ganar confianza a medida que implementa la IA generativa le permitirá aprovechar al máximo y rápidamente los beneficios que ofrece esta tecnología innovadora.
La IA generativa es un poderoso subconjunto de la IA, que está teniendo un impacto transformador en los negocios, al poder automatizar y mejorar aspectos de casi todas las operaciones comerciales, tales como atención al cliente, desarrollo de software y análisis de datos, mejorando la forma en que se interactúa con clientes al personalizar esas interacciones. También se podrán automatizar tareas de gran volumen, procesar reclamos de seguros; realizar determinadas tareas de desarrollo de software; facilitar que los equipos comprendan datos no estructurados, incluidos contratos, facturas, comentarios de clientes, pólizas, revisiones de desempeño, registros médicos y más.
Mientras los potenciales usos de la IA generativa crecen exponencialmente, naturalmente siguen ese proceso los riesgos asociados, por lo que los administradores de riesgos de las empresas tendrán que gestionar riesgos nuevos y amplificados, así como una serie de desafíos comerciales, legales y regulatorios. El Congreso de Estados Unidos, la Comisión Federal de Comercio, la Administración del Ciberespacio de China y la Unión Europea (UE) han tomado medidas para regular la IA generativa y, en esa línea, varios países como Italia, Canadá, España, Francia y Alemania iniciaron investigaciones por quejas o inquietudes sobre la recopilación, el uso y la divulgación de información personal sin consentimiento por parte de la IA generativa, en violación de las leyes de protección de datos.
PwC en su informe destaca cuatro grandes riesgos inherentes a la IA generativa que las organizaciones necesitan comprender y gestionar:
Riesgos de los datos producidos por la propagación de errores; o ante la falta de consentimiento en el uso de datos que impacte contra la propiedad intelectual o genere problemas contractuales; más la generación de contenido engañoso y dañino causado por datos de baja calidad utilizados para entrenar modelos generativos de IA.
Riesgos de modelo y sesgo. Incumplimiento de los principios éticos y responsables de la IA en el desarrollo del modelo de lenguaje, lo que conduce a resultados discriminatorios o injustos.
Riesgos de indicaciones o entradas. Respuestas engañosas, inexactas o dañinas debido a indicaciones o preguntas poco sofisticadas que se proporcionaron al modelo de IA.
Riesgos del usuario. Los usuarios corren el riesgo de sufrir consecuencias no deseadas debido a que se convierten en partes involuntarias en la creación de información errónea y otro contenido dañino. Por ejemplo, podrían considerar verídicas las “alucinaciones” (respuestas erróneas o sin sentido) generadas por la IA.
El informe recomienda que los profesionales de riesgos activen la IA generativa para lograr resultados confiables, de modo que -focalizándose en la confianza desde el diseño- no sólo la velocidad, sea su propuesta de valor para sus clientes, inversionistas, socios comerciales, empleados y la sociedad.
Los especialistas en el ámbito del riesgo deben considerar toda la gama de riesgos para la privacidad, la ciberseguridad, el cumplimiento normativo, la gestión de terceros, las obligaciones legales, y la propiedad intelectual, así como colaborar entre sí para gestionar el riesgo empresarial general.
Paralelamente, cada organización debe trabajar con sus líderes de talento/RRHH para desarrollar programas de capacitación en todos los niveles para familiarizar a todos con los riesgos y beneficios de la IA generativa, involucrando al personal experimentado para validar los primeros resultados de la IA generativa, más supervisar el desempeño humano para protegerlo de la «atrofia de habilidades» o la caída de la calidad con el tiempo.
La actitud de involucrarse en el fenómeno para entenderlo, analizar su adecuación a cada organización, evaluar sus riesgos y condicionantes legales o regulatorios y así buscar obtener el mejor provecho de cada tecnología fue el llamador de este reporte que debería ser el proceso de calidad y crecimiento de toda institución.
(*) Abogado, especialista en derecho informático
