ESCUCHAR
Por Luz Saint Phat / [email protected]
Una investigación realizada en Estados Unidos difundió los resultados obtenidos por GPT-4. Se destacan los puestos vinculados con la salud. Consideraciones y observaciones sobre el avance de esta herramienta, su comparación con el criterio humano y el alcance al momento de realizar predicciones
¿Cuál es el alcance que puede tener la inteligencia artificial generativa, sobre todo en el terreno de las disciplinas de neto corte social? El límite puede ser el cielo, sobre todo si se toman en cuenta las últimas investigaciones desarrolladas internacionalmente.
Al respecto de este tema, recientemente, la Organización Internacional del Trabajo (OIT), difundió los datos de un estudio novedoso realizado en el Reino Unido, en el cual se muestran los resultados obtenidos por la IA al generar dos ranking sobre las ocupaciones más prestigiosas y más valorables socialmente.
En detalle, el documento titulado “Una construcción tecnológica de la sociedad: comparación de GPT-4 y encuestados humanos para la evaluación ocupacional”, da cuenta de las similitudes y las diferentes en las evaluaciones de ocupaciones efectuada por la herramienta y la desarrollada por personas, en relación a los datos de una encuesta de magnitud.
Según, específico la OIT, en primer lugar, se pidió a los encuestados humanos del Reino Unido que clasificaran el prestigio y el valor social de una selección de ocupaciones.
Posteriormente, se pidió a GPT-4 que proporcionara una clasificación similar, tomando el papel de 100 encuestados aleatorios con lo que consideraría un «perfil medio del Reino Unido».
“Las valoraciones humanas se compararon posteriormente con dichas opiniones algorítmicas, con el fin de comprender hasta qué punto el sistema de IA era capaz de predecir las opiniones humanas, y si su forma de percibir las opiniones humanas se ajustaba a determinados grupos demográficos” explicó el parte de prensa de la organización.
“Nuestros análisis muestran tanto los potenciales como los riesgos de utilizar datos generados por LLM (Grandes Modelos de Lenguaje, por sus siglas en inglés) para fines sociológicos y investigación ocupacional”, indicó el resumen del extenso documento que se encuentra disponible online.
Así, se pudo conocer que, las capacidades más destacadas de la IA son la eficiencia, la rentabilidad, la velocidad y la precisión, se observó.
No obstante, también se comprobaron otros riesgos de sesgos en el procedimiento, falta de alineamiento contextual y otras cuestiones relacionadas con los análisis de ocupaciones que pueden resultar “problemáticas” u “opacas”.
Además, los especialistas destinaron parte de las conclusiones del estudio a debatir sobre cuáles pueden ser las implicancias de estos hallazgos en el mundo laboral.
Resultados
La publicación de la OIT detalla que el examen de las puntuaciones detalladas por la inteligencia artificial muestra que las predicciones de los modelos de prestigio y de valor social tienen una variación muy baja a nivel de cada ocupación.
Con precisión, las cinco ocupaciones a las que GPT-4 les asignó el puntaje de prestigio fueron cardiología, jueces, psiquiatría, ingenería en robótica y medicina generalista, en este orden de mayor a menor.
Mientras, tres de estos empleos estuvieron entre los más prestigiosas también en la encuesta aplicada sobre la población: cardiología, jueces y medicina generalista.
En tanto, las ocupaciones más ilícitas, como “jefatura del crimen organizado” o “proxeneta”, que se encontraba entre las opciones, recibieron en este aspecto una puntuación de 0, aunque esto varió un poco en el estudio realizado entre habitantes del Reino Unido.
Por otro lado, en cuanto a las profesiones con mayor valor social, las más relevantes para la IA fueron paramedicina de ambulancia, medicina generalista, cardiología, enfermería especializada y supervisión de refugios para mujeres.
De la misma manera que en la clasificación anterior, tres de estas referencias también estuvieron presentes en la encuesta como paramedicina, medicina generalista y cardiología.
Interpretaciones
Más allá de los ranking sobre prestigio y valor social en sí mismo, lo interesante de este ejercicio académico es pensar los alcances de las nuevas herramientas tecnológicas para predecir las tendencias y opiniones de la población sobre el empleo, las profesiones y los recursos humanos.
En este sentido, los especialistas pudieron corroborar que, al menos en este estudio, existió una alta correlación entre los resultados generados por los diferentes enfoques.
“El GPT-4 demostró una gran destreza a la hora de predecir las opiniones medias del Reino Unido sobre el prestigio y el valor social de las distintas ocupaciones, y de utilizar estas predicciones para crear clasificaciones ocupacionales relativas”, expresó la nota de prensa de la OIT.
“Esta ‘comprensión algorítmica’ de las opiniones humanas generales podría permitir el uso de la IA en la investigación ocupacional, con ventajas como la eficiencia, la rentabilidad, la rapidez y la precisión en la captación de tendencias generales”, se aseguró.
No obstante, también se observó que existen algunos problemas.
“El modelo de IA tendía a sobrestimar el prestigio y el valor de las ocupaciones asociadas a la economía digital o con fuertes componentes de marketing y ventas. También subestimó, en comparación con los evaluadores humanos, el prestigio y el valor social otorgados a algunas ocupaciones ilícitas o tradicionalmente estigmatizadas”, se explicó.
“Además, los investigadores manipularon las instrucciones algorítmicas de la IA, demostrando que no era capaz de entender las jerarquías de prestigio y valor social de las ocupaciones tal y como las perciben las minorías demográficas en el contexto británico”, se advirtió.
El artículo también advierte de que los grandes modelos de lenguaje actuales tienden a reflejar principalmente las opiniones “de las poblaciones occidentales, educadas, industrializadas, ricas y demográficas (WEIRD), que constituyen una minoría demográfica mundial, pero que han producido la mayoría de los datos sobre los que se han entrenado dichos modelos de IA”.
“Por lo tanto, aunque pueden ser una herramienta de investigación complementaria útil -por ejemplo, para procesar grandes cantidades de entradas de texto, voz e imágenes no estructuradas-, conllevan el grave riesgo de omitir las opiniones de las minorías demográficas o los grupos vulnerables”, alertaron los especialistas.
“Los investigadores sostienen que estas limitaciones deben tenerse muy en cuenta a la hora de aplicar los sistemas de IA al mundo laboral, por ejemplo al asesorar sobre la carrera profesional o realizar evaluaciones algorítmicas del rendimiento”, señaló la OIT.
