ESCUCHAR
Por Luz Saint Phat / lsaintphat@comercioyjusticia.info
Una interesante investigación desarrollada en Estados Unidos da cuenta que las generaciones nativas de la era digital presentan fuertes advertencias sobre la veracidad y seguridad de los contenidos que se encuentran online
En un mundo cada vez más digital, son frecuentes los debates sobre la confianza, la veracidad y la seguridad de los datos, sobre todo con el avance de la Inteligencia Artificial Generativa (IAGen).
Estas discusiones no solo se registran en el campo académico o especializado sino que alcanza a la población en su totalidad, la cual todos los días se encuentra frente a nuevos sitios poblados de noticias y contenido falso, además de las estafas online que están a la orden del día.
En este sentido, la indagación -cuyos resultados se encuentran disponibles en el documento online “Los adolescentes, la confianza y la tecnología en la era de la IA: cómo generar confianza en el contenido en línea”– da cuenta de algunos datos de consideración y alcance no sólo para aquél país sino también globalmente.
En términos generales, se pudieron conocer los siguientes hallazgos:
– Más de 7 de cada 10 (72 %) adolescentes cambiaron la forma en que evalúan
la precisión de la información en línea después de tener una experiencia con contenido engañoso o falso.
– Más de un tercio (35 %) de los adolescentes dice que los sistemas de IA generativa harán que sea más difícil confiar en la precisión de la información que ven en línea
– Los adolescentes que han experimentado cualquier forma de contenido falso o engañoso son más propensos que los adolescentes que no han tenido estas experiencias a decir que la IA generativa hará que les resulte más difícil confiar en la precisión de la información en línea (40 % frente a 27 %).
Sobre la base de estos datos, el informe interpretó que “las percepciones de los adolescentes sobre la precisión del contenido en línea indican una desconfianza en las plataformas digitales, lo que señala una oportunidad para intervenciones educativas sobre la desinformación para adolescentes, así como la necesidad de que las empresas tecnológicas prioricen la transparencia y desarrollen funciones que mejoren la credibilidad del contenido compartido en sus plataformas”.
Por otro lado, específicamente en relación a la IAGen, se detectó que casi dos de cada cinco adolescentes (39 %) que ya utilizan este tipo de herramientas para tareas escolares, encontró problemas o imprecisiones en los resultados
Mientras, 36 % de los participantes del estudio indicó que no ha notado ningún problema y otra cuarta parte (25 %) no está seguro.
Esto implica, señala el reporte que “alrededor de un tercio de los adolescentes ha encontrado imprecisiones en los resultados de la IA generativa, lo que subraya la
importancia de mejorar la confiabilidad de la IA y equipar a todos los adolescentes con las herramientas y habilidades para evaluar de manera crítica el contenido generado por IA, especialmente en contextos educativos”.
En otro orden, y en relación a la confianza en las grandes empresas tecnológicas, se detectó que alrededor de 6 de cada 10 adolescentes dicen que no se puede confiar en compañías como Google, Apple, Meta, TikTok, Microsoft,entre otras.
De hecho, esta proporción (64%) señaló que estas empresas difícilmente se preocupen por la salud mental y bienestar de la población o que protejan la seguridad de las personas, incluso si esto perjudica las ganancias.
Por otro lado, en poco más de la mitad de los adolescentes informan que tienen bajos niveles de confianza en que las grandes empresas tecnológicas tomen decisiones de diseño éticas y responsables (53 %), mantengan segura la información personal de los adolescentes (52 %) o sean inclusivas y justas al considerar las necesidades de los diferentes usuarios (51 %).
Así, aseguró el documento, “cuando se trata de empresas tecnológicas, los adolescentes
no confían en que estas empresas tengan en cuenta la seguridad y el bienestar de los adolescentes al diseñar y tomar decisiones sobre nuevas funciones y tecnologías”.
“Para reconstruir la confianza, las empresas tecnológicas podrían interactuar directamente con los jóvenes a través de procesos de diseño participativo, incorporando sus comentarios para crear entornos digitales más seguros y éticos que aborden las preocupaciones específicas de los adolescentes sobre la privacidad, la seguridad y la salud mental”, observó el reporte en uno de los principales puntos considerados.
En sus conclusiones, el estudio explicó que “una parte importante de los adolescentes desconfía del contenido visual que encuentran en línea, y en particular del contenido visual que ven en las redes sociales”.
En tanto, también se registró que en un contexto de disminución de la confianza en la autenticidad del contenido visual, especialmente en los medios en línea, 35 % de los adolescentes cree que los sistemas de IA generativa harán que sea más difícil confiar en la precisión de la información en línea.
“Dado que la confianza en la información, en particular la información en línea, enfrenta desafíos crecientes en medio del rápido desarrollo de la IA generativa, es más crucial que nunca dotar a los jóvenes de las habilidades para “investigar, no dudar” de la información que encuentran”, aseguró el reporte.
