ESCUCHAR
Datos interesantes de una investigación internacional muestran cómo se perciben las selecciones de recursos humanos desarrolladas por personas y por inteligencia artificial. Reflexiones necesarias frente a una problemática con varias aristas
Las nuevas tecnologías de la información y la comunicación (TIC) cada día toman más protagonismo en distintas áreas de la vida humana.
Dentro del ámbito laboral, particularmente, las posibilidades son infinitas según va demostrando el avance de la inteligencia artificial (IA), que actualmente no sólo permite conocer estados actuales de situaciones determinadas sino también realizar pronósticos, establecer parámetros y tomar decisiones claves.
Específicamente en relación con la aplicación de los desarrollos informáticos en el campo de la selección de personal, un estudio cuyos resultados fueron publicados en un parte de prensa de la Asociación Americana de Psicología (APA, por sus siglas en inglés) permitieron advertir de la relación entre algoritmos, discriminación de género en los procesos de contratación de recursos humanos y percepción de las personas respecto de esta articulación.
Sorprendentemente, el artículo científico que revela los resultados de la investigación, titulado “La discriminación de los algoritmos causa menos indignación moral que la humana”, observa que justamente la tecnología en este ámbito opaca o permite velar ciertos matices leves relativos a la discriminación en el mercado laboral.
El documento, cuya autoría es de los investigadores en el campo de la psicología y la neurociencia Yochanan E. Bigman, Desman Wilson, Mads N. Arnesta, Adam Waytz y Kurt Gray, alerta de esta manera sobre una problemática que, paradójicamente, puede pasar inadvertida, evitando posibles acciones al respecto.
Interpretación
El estudio se aplicó mediante ocho experimentos realizados con unos 3.900 participantes de Estados Unidos, Canadá y Noruega.
Vale señalar que, si bien la mayoría de los estudios vinculó las variables de contratación y género, uno específicamente también abordó cuestiones relacionadas con la etnia y la edad.
Según precisó el trabajo de APA, “cuando se les presentaron varios escenarios sobre discriminación de género en las decisiones de contratación causadas por algoritmos y humanos, los participantes se sintieron menos indignados moralmente por las causadas por algoritmos”. Además -señaló el parte de prensa-, “los participantes también creían que las empresas eran menos responsables legalmente por la discriminación cuando se debía a un algoritmo”.
“Es preocupante que las compañías puedan usar algoritmos para protegerse de la culpa y del escrutinio público sobre prácticas discriminatorias”, dijo Bigman, investigadorposdoctoral en la Universidad de Yale y profesor asistente entrante en la Universidad Hebrea, al referirse a estos resultados.
Además, el especialista precisó -siempre según detalla la misiva- que “los hallazgos podrían tener implicaciones más amplias y afectar los esfuerzos para combatir la discriminación”.
“La gente ve a los humanos que discriminan motivados por prejuicios, como el racismo o el sexismo, pero ven algoritmos que discriminan motivados por datos, por lo que están menos indignados moralmente”, dijo, y alertó sobre que esto puede realmente ser contraproducente para los cambios que se impulsan para lograr una sociedad más justa y equitativa.
“La indignación moral es un mecanismo social importante para motivar a las personas a abordar las injusticias. Si las personas están menos indignadas moralmente por la discriminación, entonces podrían estar menos motivadas para hacer algo al respecto”, aseguró.
Otros detalles
“El conocimiento sobre la inteligencia artificial no pareció marcar la diferencia”, aseguró el comunicado de la entidad que agrupa a profesionales de la salud mental en Estados Unidos, ya que -explicó- “en un experimento con más de 150 trabajadores tecnológicos en Noruega, los participantes que reportaron un mayor conocimiento sobre inteligencia artificial estaban aún menos indignados por la discriminación de género causada por los algoritmos”.
No obstante, señalaron los especialistas, “cuando las personas aprenden más sobre un algoritmo específico, (esto) puede afectar su perspectiva”.
“En otro estudio, los participantes se indignaron más cuando programadores masculinos en una empresa conocida por prácticas sexistas crearon un algoritmo de contratación que causaba discriminación de género”, se precisó.
“Los programadores deben ser conscientes de la posibilidad de discriminación involuntaria al diseñar nuevos algoritmos”, dijo Bigman, y aseguró que “las campañas de educación pública también podrían enfatizar que la discriminación causada por los algoritmos puede ser el resultado de las desigualdades existentes”.
EL FUTURO LLEGÓ
Los retos que impone la inteligencia artificial
La introducción de la publicación académica de la APA advierte del avance de la aceleración en todo el mundo del proceso de “integración de máquinas y algoritmos autónomos en la sociedad humana”.
“El aprendizaje automático ha facilitado mucho de este desarrollo, proporcionando predicciones basadas en datos que a menudo superan a los humanos en muchas áreas, desde predecir la propagación de la enfermedad a la dinámica del crimen”, dice el texto, y específica que de esta manera se “han revolucionado particularmente muchas prácticas en el mundo de los negocios, ayudando a manejar el inventario, cadenas de distribución y programación del personal”.
No obstante, se advierte de que aunque “las capacidades predictivas de los sistemas de IA son innegables (…) muchos se sienten incómodos con la creciente dependencia de la humanidad en algoritmos”.
“Una preocupación es si el mayor uso de máquinas quitará puestos de trabajo a los humanos, similar a otras revoluciones tecnológicas, causando malestar económico generalizado”, señala el documento.
Por otro lado, la investigación precisa que “otra preocupación sobre el auge de los algoritmos es la desconfianza en la capacidad de decisión de las máquinas”:
muchas decisiones legales, médicas y militares involucran resultados de vida o muerte, y las personas parecen reacias a que las máquinas tomen estas decisiones importantes.
