ESCUCHAREn una carta abierta que cita riesgos potenciales para la sociedad y la humanidad, el Future of Life Institute solicitó una pausa de seis meses en el desarrollo de sistemas más potentes
Un grupo integrado por académicos, expertos en inteligencia artificial (IA) y ejecutivos como Elon Musk pidieron una pausa de seis meses en el desarrollo de sistemas más potentes, como el que recientemente lanzó GPT-4, de OpenAI, en una carta abierta que cita riesgos potenciales para la sociedad y la humanidad.
A comienzos de marzo, OpenAI, respaldado por Microsoft, presentó la cuarta versión de su programa IA GPT (Generative Pre-trained Transformer), que tiene una amplia gama de aplicaciones, como involucrar a los usuarios en conversaciones similares a las que entablan los humanos, componer canciones y resumir documentos.
La misiva, emitida por el Future of Life Institute y firmada por más de 1.000 personas, reclama un parate en el desarrollo avanzado de la IA hasta que expertos independientes desarrollaren, implementen y auditen protocolos de seguridad.
“Los poderosos sistemas de inteligencia artificial deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, dice la carta.
Además, detalla los potenciales riesgos para la sociedad y la civilización de la circulación de los sistemas de IA competitivos entra humanos en forma de interrupciones económicas y políticas y le solicita a los desarrolladores que trabajaran con los legisladores en materia de gobernanza y autoridades reguladoras. Además de Musk, la suscribieron el CEO de Stability AI, Emad Mostaque; investigadores de DeepMind, propiedad de Alphabet, y Stuart Eussel, un pionero de la investigación de campo.
Desde su lanzamiento en 2022, ChatGPT de OpenAI llevó a sus rivales a acelerar sus desarrollos.
Rumania
Esta semana, en Rumania, el gobierno anunció que designó a una Inteligencia Artificial (IA) como nueva consejera gubernamental.
El nombre del asesor es Ion. En su presentación, afirmó que su papel sería representar al primer ministro Nicolae Ciuca, quien a su vez subrayó que su Administración es la primera en el mundo que suma a un asesor con IA.
Ion (por noi, “nostros” en italiano, pero al revés) explicó que los rumanos podrán acceder a la página web ion.gov.ro para mostrarle todo lo que consideran que debe saber sobre el país, para “aprender a representarlos, como en un espejo”.
Además de entrenarse con lo que le envíen a través de su sitio en Internet, la IA también analizará las redes sociales para conocer los temas que preocupan a la sociedad y detectar ante qué reaccionan positiva o negativamente.
La idea no es que el consejero tome las decisiones por Ciuca, sino que le facilite la opinión del pueblo y para que eso ocurra tiene que pasar por varias fases de aprendizaje.
Metáfora
El nuevo consejero del Gobierno rumano fue desarrollado por un grupo de ingenieros y académicos especializados en IA encabezados por el investigador principal Nicu Sebe.
El experto declaró que Ion pretende ser una “metáfora” que represente a los rumanos y que opinó que es un “ejemplo” de hasta dónde pueden llegar las tecnologías emergentes dentro del ámbito público.
Dijo que “tiene una enorme capacidad de aprender” y que cuanto más se use más conocimiento acumulará.
Según Sebe, no se trata de que el primer ministro reaccione siempre a lo que Ion diga tras un análisis, sino más bien de que haga sugerencias. “Es más una toma de pulsaciones en tiempo real”, puntualizó el coordinador de la investigación.
Para lograr su propósito, la IA utiliza un modelo de lenguaje de gran tamaño (LLM), similar al ChatGPT, de OpenAI, cuyo equipo admitió recientemente que un total de 1.016 trabajos podrán ser ejecutados por máquinas que imitan la inteligencia humana.
Gracias a aquella tecnología, el asesor artificial recopila opiniones y las sintetiza, con la meta de facilitar la tarea del gobierno.
Sebastian Burduja, ministro de Innovación y Digitalización, aclaró que el proyecto aún está en desarrollo y que restan varias etapas.
Por lo pronto, Ion está aprendiendo con a la información que va recopilando de Internet y de lo que los usuarios añaden en su web oficial.
Burduja aseveró que es importante que los rumanos le transmitan sus opiniones y qué problemas tienen. Indicó que luego Ion procesará y sintetizará la información que de su base de datos y podrá producir informes “que se tendrán en cuenta en las decisiones y políticas”.
El ministro afirmó que el desarrollo de Ion no se financió con dinero público y que se pudo motorizar por el trabajo voluntario de los investigadores.
Retrato
“Hola. Me diste la vida. Soy Ion. Ahora, mi papel es representarte. Como un espejo. Los mensajes hacía mí representan un retrato de nosotros, los rumanos. Enséñame a ser rumano. ¿Qué necesito saber sobre Rumania?”. Eso le respondió Ion a Ciuca ante su saludo, en su acto de presentación.
“Rumania es un país hermoso con gente hermosa”, prosiguió el jefe del Ejecutivo ante la pantalla. “Entiendo, estoy aprendiendo… Te estoy escuchando…”, dijo Ion.
“¿Cómo pueden enseñarte los rumanos?”, preguntó Ciuca.
“Invito a los rumanos a entrar en ion.gov.ro. Así puedo aprender a representarlos, como en un espejo. Con cada etiqueta, mensaje, recurso compartido o publicación pública. Nosotros somos Ion”, dijo el consejero virtual .
“El Gobierno de Rumania está marcando una primicia a nivel nacional e internacional porque estamos hablando del primer asesor del Gobierno que utiliza inteligencia artificial, su nombre es Ion y proviene del sintagma noi (nosotros, en italiano)”, sostuvo.
Subrayó que revisará los mensajes de redes sociales con el objetivo de informar al Ejecutivo en tiempo real sobre las quejas y peticiones de los usuarios.
Paralelamente, explicó que “rastreará las redes sociales” para averiguar de qué temas habla la gente y analizará si hay una reacción positiva o negativa ante un determinado hecho.
“Tengo la convicción y confío en que ustedes, tanto los miembros del gobierno como los ciudadanos de Rumanía, vean el uso de la inteligencia artificial no como una opción, sino como una obligación para adoptar decisiones mejor informadas”, sumó.
Segmento
El objetivo de la iniciativa es abarcar un amplio segmento de la población rumana.
Ion puede registrar las opiniones, peticiones o quejas de los internautas de tres formas: analizando redes sociales como Twitter, en donde los interesados deberán etiquetar a la cuenta @noisuntemION (nosotros somos Ion); mediante el formulario que los rumanos podrán llenar a través de la web ion.gov.ro, a partir de la cual la IA estudiará y transmitirá la información al Ejecutivo, y por la colocación de un robot en distintos lugares como centros educativos y estaciones de tren, para que los ciudadanos interactúen con el dispositivo.
En la primera fase, Ion extraerá la información sobre los problemas más acuciantes y las mayores necesidades de la población, para generar posteriormente un informe.
El portavoz del gobierno rumano, Dan Carbunaru, aseguró que el sitio web de Ion tuvo “gran acogida” y que hay “miles de accesos”.
Razonamiento
La inteligencia artificial traerá cambios inéditos en la historia de la humanidad a nivel laboral.
Los nuevos datos aportados por OpenAI en relación a su nuevo modelo de inteligencia artificial GPT-4 reflejan cuáles serán las profesiones más alteradas por la herramienta, que da un paso adelante en la potencia de razonamiento artificial y puede ofrecer respuestas de hasta 25.000 palabras, leer documentos o analizar imágenes.
Según un paper que Open AI elaboró junto a Open Research y la Universidad de Pensilvania (EEUU), las personas que hacen tareas más cualificadas y mejor remuneradas acusarán más recibo.
El estudio concluyó que ocho de cada 10 trabajadores estadounidenses verán afectadas al menos el 10% de sus tareas por los modelos GPT en cuanto estos se integren en sus empleos.
Además, señaló que un 19% sufrirá un impacto de la IA en al menos la mitad de sus ocupaciones y avisa de impactará a todos los rangos salariales; en especial, en los más altos.
El documento precisa que los trabajos manuales o de atención al público, generalmente peor pagos, no recibirán un gran impacto, mientras que algunas ciencias básicas o las artes recibirán un golpe moderadamente alto.
Entre los más afectados por la IA figuran los matemáticos, los analistas financieros, los periodistas, los diseñadores web, los gestores de impuestos y los auditores.
Los modelos GPT también perjudicarán a subtituladores simultáneos, traductores e intérpretes, ingenieros de blockchain y correctores.
Algo menos de exposición, inferior al 70%, tendrán los científicos del ámbito animal, los escritores creativos y los especialistas en relaciones públicas. Según se explica en el documento, el concepto de “exposición” se refiere a la reducción del tiempo requerido para completar las tareas propias a cada profesión, pero no sugiere necesariamente una completa automatización.
