La irrupción de la Inteligencia Artificial (IA) está redefiniendo la economía y el mercado laboral, creando tanto oportunidades como desafíos socioeconómicos. Su adopción, por otro lado, plantea dilemas éticos clave, como la equidad, la transparencia y la responsabilidad, que exigen un liderazgo capaz de equilibrar el avance tecnológico con valores éticos.
Ante este escenario, preparar a la sociedad para comprender y gestionar los beneficios y riesgos de la IA se presenta como un reto crucial para garantizar un desarrollo inclusivo y justo. Y ese fue, precisamente, uno de los objetivos planteados en la jornada “NAIR ConciencIA: Inteligencia Artificial y sociedad. Retos y oportunidades de futuro” organizada este jueves por NAIR Center, centro de investigación de referencia en Navarra dedicado a la investigación, la innovación y el análisis en torno a la Inteligencia Artificial.
En ese sentido, su director gerente, Gorka García, vinculó la celebración de este encuentro a uno de los ejes estratégicos de su entidad. “Nos proponemos explorar cómo la Inteligencia Artificial transforma y es transformada por la vida de las personas. Investigamos no solo su impacto en la economía, la política y las organizaciones, sino también cómo la percepción social influye en su desarrollo y su adopción ética”, explicó. Además, García también señaló como otro gran propósito “la promoción de las carreras STEM entre las mujeres”. “Nos preocupa el sesgo en los modelos porque si las mujeres están subrepresentadas, ¿cómo vamos a ser capaces de construir algoritmos verdaderamente equitativos?”, se preguntó.
TRANSFORMACIÓN SOCIOECONÓMICA
La consejera de Universidad, Innovación y Transformación Digital, Patricia Fanlo, subrayó en sus palabras de bienvenida “el firme compromiso del Gobierno de Navarra con la inteligencia artificial y los valores éticos que deben orientar el progreso tecnológico”. En esa línea, destacó “el papel crucial de la inteligencia artificial en la transformación de la sociedad”, poniendo como ejemplo iniciativas como el NAIR Center y el IRIS Polo de Innovación Digital, “que consolidan a Navarra como referente en investigación y transformación digital”. “Estamos convencidos de que la IA debe ser accesible, justa y estar al servicio de todas las personas, y trabajamos para que Navarra lidere este cambio de manera responsable”, añadió.
De esta forma, finalizada la apertura institucional se inició un primer bloque bajo el epígrafe “IA y Transformación Socioeconómica” en el que participó Manuel González, director general de Planificación Estratégica en Tecnologías Digitales y Nueva Economía de la Lengua en la Secretaría de Estado de Digitalización e Inteligencia Artificial. En su intervención, explicó que la irrupción de ChatGPT y la IA generativa “implosionó” el sector hace dos años. “Por eso, en la estrategia que aprobamos el pasado mayo hemos decidido actualizar el primer plan que desarrollamos sobre Inteligencia Artificial de 2020”, explicó.
González comentó, también, que la aceleración que se está produciendo en torno a esta tecnología de vanguardia hace que la dependencia de las infraestructuras sea cada vez mayor. Así, comentó que “España tiene una de las infraestructuras en supercomputación más potentes del mundo” y que lo que pretenden ahora “es extender su uso al sector privado de tal forma que un 20 % de esa red dé servicio a la industria”. Asimismo, abordó el trabajo que el sector público está llevando a cabo para contar con un modelo lingüístico propio basado en el español y otras lenguas romances que sirva de fuente de conocimiento para los usuarios de IA.
Por su parte, la PhD y consultora freelance en Inteligencia Artificial, Nerea Luis, consideró que “hoy en día es difícil pensar que una IA te vaya a reemplazar. Más bien se asemeja a un piloto que puede ayudarte y guiarte”. Desde esta perspectiva, Luis identificó al menos cuatro tendencias clave en el futuro de esta tecnología: la personalización de resultados, la multimodalidad con un enfoque destacado en la voz, el análisis y simplificación de procesos complejos, y la capacidad de facilitar la interacción del usuario con otros servicios.
Según esta experta, el impacto del uso extensivo de la Inteligencia Artificial es comparable a revoluciones tecnológicas anteriores, como las provocadas por la llegada de Microsoft o Google. En este sentido, pronosticó que "la mayoría de las industrias integrarán herramientas con IA generativa, y en pocos años todos estaremos creando trabajos apoyados en esta tecnología".
ETICA Y RESPONSABILIDAD EN IA
Posteriormente, la jornada continuó con un segundo bloque titulado “Ética y Responsabilidad en IA” que se inició con la ponencia de Cristina Contero, socia gerente de Aphaia. Además, 'Del dilema ético a la acción' debido a que hay "demasiada teoría" al respecto pero poca concreción, y que para entender el panorama actual de la Inteligencia Artificial es necesario comprender "de dónde venimos y adónde vamos". Para ilustrarlo, mencionó elementos de la cultura popular que integran la IA en su trama como 'Black Mirror', 'Terminator' o 'Yo, Robot', entre otros. Tres elementos que tratan la inseguridad de la sociedad ante la robótica, la necesidad de la supervisión humana o la creación de unas "leyes de la robótica".
Temas de actualidad que Contero, especialista en protección de datos y privacidad, abordó mostrando cómo aún quedan muchas etapas que completar en lo que a la regulación de la IA se refiere. "Sobre la mesa hay planteados ciertos dilemas desde el ámbito ético. Por ejemplo, respecto a la 'brecha de habilidades'. Vamos a necesitar capacidades especializadas para analizar datos, y eso significa que algunos puestos de trabajo desaparecerán, pero surgirán nuevos. Para eso es fundamental mejorar la formación en los centros educativos", apostilló.
En paralelo, destacó que el "sesgo algorítmico" es de los temas que más preocupan a los expertos. “La IA también puede caer en esa trampa porque los datos están incompletos o porque los propios modelos están sesgados", certificó. De cara a alcanzar un mayor grado de fiabilidad, Contero enumeró siete principios para consolidar un punto de partida: asegurar la intervención y supervisión humanas para tener control sobre la IA; robustez y seguridad técnica; privacidad y gestión de datos para cumplir con la normativa europea; transparencia; diversidad, indiscriminación y equidad para evitar sesgos y recopilar feedback; bienestar social y medioambiental; y rendición de cuentas en caso de errores.
La jornada continuó con la mesa redonda moderada por Angela Bernardini, responsable de Innovación y Transferencia Tecnológica de NAIR Center. El primer invitado en tomar la palabra fue Agustín Zubillaga, viceconsejero de Administración Digital y Servicios Generales en la Consejería de Gobernanza, Administración Digital y Autogobierno del Gobierno Vasco-Eusko Jaurlaritza. “Hablamos de IA como si fuera únicamente tecnología. Resistencia al cambio, inercias, protección, sensación de vulnerabilidad… Estamos regulando aspectos a medida que se van desarrollando”, resaltó tras apuntar que País Vasco cuenta desde la legislatura pasada con un Manifiesto Ético del Dato y con una oficina especializada para garantizar una buena gestión y uso.
“Tenemos que evangelizar y persuadir a la ciudadanía de que hay ventanas de oportunidad, pero también de riesgos. Abordar aproximaciones maximalistas en un periodo de cinco años está muy fuera de la realidad. Es impracticable”, certificó para coincidir con Contero en que “no se puede pretender que la IA no esté sesgada”. ¿Y cómo se puede mejorar? Zubillaga señaló que surgirá una respuesta coordinada si se llevan a cabo conversaciones entre juristas, programadores, responsables de recursos humanos y más expertos. “De lo contrario, estaremos pilotando un Ferrari con una venda en los ojos”, ilustró.
De igual manera que en la Comunidad Autónoma Vasca, Navarra cuenta con una Oficina del Dato y un Manifiesto Ético del Dato. Josean Vizcay, director general de Telecomunicaciones y Digitalización del Gobierno de Navarra, advirtió de que la sociedad en general corre el riesgo de sufrir el ‘Efecto Netflix’. “De igual manera que todos pagamos cuando el precio aumentó desde los 4 euros hasta los 7, y luego hasta los 9, estamos enganchados. Nos genera una necesidad”, alertó.
No obstante, Ezcay señaló que en Navarra se están dando pasos para implementar la IA en diversas áreas con un impacto directo en la sociedad, como la sanidad. Precisamente, indicó que Osasunbidea cuenta con una herramienta “pionera” en el campo oftalmológico, impulsada por IA, para tratar la pérdida de visión asociada a la edad.
El broche de oro a la mesa redonda lo puso Ángel Sanz, director gerente de AST-Aragonesa de Servicios Telemáticos, quien señaló la estrecha relación existente entre los beneficios y riesgos de la IA. “Sanidad, investigación, educación, movilidad…En general, nos puede ayudar a establecer servicios públicos más eficaces, pero los procesos de certificación son vitales para saber si los sistemas disponibles cumplen o no con la normativa vigente”, destacó.
En esta misma línea, Sanz explicó que Aragón está destinando recursos a la implementación de la IA en su sistema público como, por ejemplo, para analizar el “elevado número de expedientes” que se presentan a las bolsas de empleo, y eso provoca que el sistema tenga que tratar información y datos personales. Un riesgo que señaló anteriormente Contero durante su intervención.
IMPACTO EN EL EMPLEO
Tras una pausa para el almuerzo, la vicedecana de la UPF Barcelona School of Management, Ana Freire, destacó en su intervención que la inteligencia artificial (IA) impactará al 40 % de los empleos, según datos del Fondo Monetario Internacional (FMI). Este fenómeno, aseguró, traerá tanto oportunidades como desafíos. Por un lado, permitirá una disrupción positiva en muchas empresas, potenciando su productividad hasta cinco veces, según estimaciones de Price. Por otro lado, supondrá despidos en los trabajos más mecánicos, como los administrativos o auditores.
Freire subrayó la necesidad de preparar a los trabajadores para esta transformación. “No hace falta ser ingeniero, pero sí conocer la IA desde una perspectiva multidisciplinar”, afirmó, insistiendo en la importancia de desarrollar habilidades como el pensamiento analítico, el liderazgo y el aprendizaje activo. Sin embargo, alertó de una brecha entre la formación académica y las necesidades del mercado, lo que deja cada año 900.000 puestos de trabajo vacantes en Europa por falta de personal cualificado. Para reducir esta brecha, propuso visibilizar los nuevos roles tecnológicos desde la educación primaria.
Entre los sectores que ya están aprovechando el potencial de la IA, mencionó ejemplos como el marketing, el comercio electrónico —donde plataformas como Amazon personalizan ofertas gracias al análisis masivo de datos—, la salud y la energía. En este último ámbito, la IA no solo consume grandes cantidades de recursos en centros de datos, sino que también contribuye a reducir su huella energética mediante optimizaciones avanzadas.
No obstante, Freire advirtió de los riesgos asociados a la IA, como la perpetuación de sesgos de género o raza. “La IA no discrimina, aprende de los datos generados por los humanos”, explicó, señalando la necesidad de garantizar diversidad en los equipos que diseñan y entrenan estos sistemas. También abogó por una legislación adecuada, destacando la importancia de la primera ley europea sobre inteligencia artificial, para mitigar estos riesgos y asegurar un desarrollo ético y responsable de la tecnología.
Finalmente, “NAIR ConciencIA: Inteligencia Artificial y sociedad. Retos y oportunidades de futuro” finalizó con un último foro de debate moderado, de nuevo, por Angela Bernardini y donde Iván Cordon, director de Innovación de DATAI; la profesora titular de la UPNA, Laura de Miguel; María Beunza, CEO de HumanAI; y la directora de Legal y Cumplimiento de Veridas, Leire Arbona, abordaron cómo debe ser el liderazgo en esta era de la Inteligencia Artificial.
Sobre NAIR Center
NAIR Center es un centro de investigación especializado en Inteligencia Artificial que se enfoca en la investigación básica y aplicada de la IA. Garantiza, además, una investigación básica y aplicada, transversal y de excelencia en Inteligencia Artificial que permita acelerar el proceso dedesarrollo y transformación digital del tejido industrial y de las administraciones públicas, beneficiando directamente a la ciudadanía navarra. Y, gracias a su vinculación con el Polo de Innovación Digital de Navarra-IRIS, está en línea con las necesidades empresariales a través de cuatro grandes líneas de trabajo: Fusión inteligente de datos, Aprendizaje inteligente, IA disruptiva e IA y sociedad.
