¿Es la IA la revolución total? Los expertos dicen sí… pero hay asuntos pendientes

La incorporación de la inteligencia artificial en sectores estratégicos augura un salto en productividad sin precedentes, con aplicaciones que van desde servicios sanitarios hasta la optimización empresarial o una mejor relación con la administración pública. Sin embargo, también plantea interrogantes relacionados con la privacidad, la regulación y el empleo, en un contexto donde figuras mediáticas y controvertidas están influyendo decisivamente en su desarrollo global. Estas y otras razones son las que llevan a los expertos a considerar que la educación, la transparencia y la soberanía tecnológica son esenciales para enfrentarse a los desafíos de esta tecnología transformadora.

Para abordar la cuestión en profundidad, El Confidencial organizó junto a Moeve, Telefónica, Santander, Minsait y Sanitas un foro titulado La nueva realidad tras la IA. La cita estuvo constituida por un total de seis mesas redondas y dos entrevistas. En total, 24 expertos en diferentes áreas y disciplinas compartieron con el público sus impresiones, análisis y reflexiones para dejar claro una cosa: la IA se confirma como una revolución total en prácticamente todos los sectores e industrias.

La primera mesa redonda de la jornada se tituló Reinventar la Administración, Seguridad y la Atención al ciudadano y en ella participaron Fernando de Pablo, director de la Oficina Digital del Ayuntamiento de Madrid; Georgina de la Lastra, jefa de la Unidad Central de Análisis y Difusión Externa (UCADE) del Ministerio de Hacienda y Función Pública; Ignacio Azorín, director de Estrategia Digital de la Comunidad de Madrid; y Miguel Ángel Abad Arranz, comandante de la Unidad de Coordinación de Ciberseguridad de la Guardia Civil.

[GALERÍA | Pinche aquí para ver la galería completa del evento]

La primera en tomar la palabra fue Georgina de la Lastra para detallar un caso de uso real: “Gracias a la IA hemos conseguido mejorar la precisión en las declaraciones de la renta, ya que permite detectar errores en el borrador antes de que el contribuyente lo presente”, especificó. Asimismo, la representante de la Agencia Tributaria aseguró que “la adopción de esta tecnología está liberando recursos y permitiendo que los profesionales no realicen las tareas de comprobaciones aritméticas, reduciendo así la carga de trabajo sin reemplazar personal”. Sin embargo, al tratarse de datos delicados “la agencia mantiene un uso exclusivamente interno de IA y prohíbe herramientas en la nube, como ChatGPT, debido a sus estrictas normas de protección”, matizó.

Por su parte, el representante del consistorio madrileño explicó que “esta tecnología tan disruptiva está multiplicando la productividad, calidad y eficiencia de la administración”. Fernando de Pablo también puso un ejemplo real: “Nosotros utilizamos mucho la IA en gestión territorial. Desde reconocimiento de amianto en los tejados de la ciudad, hasta ubicaciones de placas solares, mantenimiento del arbolado o identificación de islas de calor”. Pero el ayuntamiento de la capital también trabaja con personas: “Con IA podemos monitorizar a los mayores de nuestra ciudad y detectar sus problemas de salud para derivarlos a especialistas”. Respecto a la regulación —un tema trasversal a todos los paneles del foro— opinó que “será crucial para evitar problemas, pero debe ser equilibrada en lo que a oportunidades y riesgos se refiere”, defendió.

Otra administración pública madrileña, en este caso la regional, estuvo representada en la tertulia con la participación de Ignacio Azorín, quien resumió que “la IA nos está facilitando la relación con el ciudadano en numerosos sectores, tales como el turismo o la salud, donde chatbots y diagnósticos rápidos están agilando los procesos”. Bajo su perspectiva, “la personalización de servicios administrativos reduce la demanda en los centros de atención”. En la misma línea, el responsable de Estrategia Digital en la Comunidad de Madrid destacó “la importancia de la soberanía en los servicios en la nube y advirtió sobre los riesgos de depender de regulaciones que pueden hacer el mercado menos atractivo”.

"Gracias a la IA podemos detectar errores en la declaración de la renta antes de presentar el borrador", Georgina de la Lastra (AEAT)

El último en tomar la palabra en el coloquio fue Miguel Ángel Abad Arranz para enumerar los tres aspectos principales en los que la IA está ayudando a la Guardia Civil: “La empleamos para combatir la criminalidad, mejorar la relación con el ciudadano y optimizar procesos”. ¿De qué manera? “Mediante aplicaciones como chalecos con sensores o filtros en denuncias electrónicas que agilizan la labor policial”. El comandante de la Unidad de Coordinación de Ciberseguridad añadió que “el uso de IA debe equilibrarse con la garantía de derechos y libertades para proteger a los ciudadanos de potenciales usos maliciosos que también emplean esta misma tecnología”.

El segundo panel —titulado Otra Sanidad es posible, pero ¿cuál?— estuvo constituido por Víctor Manuel Ortega Jiménez, subdirector de coordinación funcional de sistemas de información y acompañamiento al usuario de la Junta de Andalucía; Manuel Vázquez, Data & Innovation Director en Sanitas; Álvaro Alonso Zorita, vocal Asesor de la Dirección General de Salud Digital y Sistemas de Información del Sistema Nacional de Salud (Ministerio de Sanidad); Francesc García Cuyás, director de Estrategia Digital y Datos del Hospital Sant Joan de Déu de Barcelona; y Manuel Pérez Vallina, CIO del Servicio de Salud de Cantabria y ex CIO en el Hospital Gregorio Marañón.

El representante de Sanitas centró su intervención en destacar que “la IA ya mejora la eficiencia de diagnósticos y tiempos de respuesta en nuestras instalaciones. De hecho, llevamos desde 2015 potenciando los datos para que esto suceda”, señaló. Pero se trata de una herramienta con muchas posibles funciones en el ámbito sanitario, tales como “transcribir consultas médicas para liberar a los facultativos de esta tarea y que se puedan centrar en el diagnóstico sin remplazar su papel principal”. Manuel Vázquez subrayó que “sin duda la IA incrementará la productividad y de hecho nosotros lo podemos constatar porque tenemos numerosas aplicaciones en marcha con esta tecnología, pero siempre debe primar la transparencia y la seguridad de la información”.

Víctor Manuel Ortega puso el foco en el ciudadano: “Este debe estar informado cuando se utiliza IA en diagnósticos y consultas médicas”, afirmó. Sin embargo, advirtió de “la importancia de capacitar tanto a ciudadanos como a profesionales en esta materia para asegurar una adopción eficaz y confiable”. Respecto a cómo está implementándola en su día a día, concretó que “tenemos una oficina específica en nuestra organización cuyo objetivo es uniformizar la gobernanza y los recursos”.

"La IA tiene muchas aplicaciones sanitarias, pero han de primar la transparencia y la seguridad de la información", M. Vázquez (Sanitas)

En el caso del trabajo de Álvaro Alonso, los esfuerzos se centran en “la coordinación de iniciativas de IA de salud entre diferentes comunidades autónomas para asegurar las mejores prácticas”. De esta forma, el Sistema Nacional de Salud pone el foco en “crear una plataforma de datos que permita el análisis rápido sin comprometer la privacidad de los datos sanitarios y en consonancia con el espacio europeo”, indicó. El experto quiso insistir en que “la regulación y la transparencia son verdaderas claves para asegurar la confianza de los ciudadanos”.

Francesc García Cuyás coincidió y destacó que “la confianza es fundamental en el uso de IA. Así lo está demostrando un proyecto que tenemos de monitoreo de niños enfermos que están en sus casas con sus familiares”. El director de Estrategia Digital y Datos del Hospital Sant Joan de Déu de Barcelona sostuvo que “aunque usamos tecnología externa, todos los datos sanitarios permanecen en España”. De cara a optimizar el modelo de atención médica, propuso “desarrollar nuevos roles en los hospitales para maximizar el uso médico de la IA”.

En consonancia con sus compañeros de tertulia, Manuel Pérez Vallina compartió un proyecto desarrollado en Cantabria “en el que voluntarios aportan datos para diagnóstico personalizado”. Asimismo, el experto insistió en que “para evaluar los modelos y algoritmos que se utilizan en medicina es imprescindible hacerlo desde la multidisciplinariedad”. El CIO del Servicio de Salud de Cantabria abogó por “más transparencia y formación tanto para ciudadanos como para médicos” y resaltó “la importancia de la colaboración en el uso de IA en salud”.

Los primeros desafíos para las empresas

El siguiente tramo del foro se agrupó en torno a los retos que deben afrontar las empresas en materia tecnológica. Así, la tercera mesa redonda de la jornada se tituló Cómo (y para qué) abrir la puerta a la IA y estuvo participada por Valero Marín, presidente de IndesIA y director general de Cliente en Repsol (ex CIO y CDO); Luis Abril, consejero Ejecutivo de Indra y director General de Minsait; y Juan Pedro Moreno, presidente de WWP España.

Luis Abril centró su análisis en cómo se está adoptando “de forma masiva” la IA en las empresas, confirmando que “el uso de herramientas como Copilot está incrementando la eficiencia y la calidad”. A la vez, “el análisis de coste-beneficio es fundamental —continuó—. Uno de los elementos que caracteriza esta transición es, precisamente, el modo piloto: en estos momentos todo el mundo tantea para ver qué tal funciona en su actividad la IA y luego ya se despliega verdaderamente”. El experto de Indra y Minsait también aseguró que “esta tecnología no reemplazará a todos los trabajadores, pero sí disminuirá la importancia de los roles manuales en favor de habilidades más creativas”.

"No reemplazará a todos los empleados, pero sí restará importancia a los roles manuales en favor de la creatividad", Luis Abril (Minsait)

A continuación, Valero Marín reveló que “la inteligencia artificial ha incrementado la productividad y calidad” en su empresa. Destacó “su utilidad para dirigir campañas y duplicar ventas en determinados sectores” y puntualizó que “está redefiniendo el modelo de negocio, permitiendo a los empleados aportar más valor y creando nuevos puestos de trabajo”. El presidente de IndesIA remarcó que, bajo su perspectiva, “el talento evolucionará hacia habilidades de interacción con el conocimiento, alejándose de la simple acumulación de información”.

Al igual que comentaron sus compañeros de mesa, Juan Pedro Moreno constató que la IA es clave en su empresa, “transformando toda la cadena de valor, desde la generación de campañas hasta la interacción con clientes”, según señaló. En lo que a empleo se refiere, sostuvo que “reduce la necesidad de especialistas técnicos”, ya que “permite que personas con habilidades más blandas —las populares soft skills— accedan a trabajos tecnológicos, promoviendo un cambio cualitativo en el mercado laboral”. No obstante, el máximo responsable de WWP España destacó que “más que regulación externa, la IA requiere autorregulación ética para garantizar derechos y transparencia”.

Encarando ya la mitad de la jornada tuvo lugar la cuarta tertulia, titulada en este caso El ascenso del ‘jefe de IA’: cómo la IA está cambiando a las empresas. Los expertos invitados a participar fueron José Manuel de la Chica, Head of Generative AI en Santander Group; Carlos Martínez, director de Servicios y Soluciones de Inteligencia Artificial y Data de Telefónica Tech; David Villaseca, Chief Digital Officer en Moeve; y Sandra de Lucas, head of Digital, Airbus España.

Para José Manuel de la Chica, “la IA ha sido parte de nuestras vidas durante mucho tiempo, pero su versión generativa aporta nuevas oportunidades visibles y escalables”. El representante de Santander Group subrayó las cuatro áreas clave en su desarrollo: “Mejorar la experiencia del usuario, optimizar el backoffice (sobre todo por el trabajo con datos no estructurados), apostar por el desarrollo y mantenimiento de tecnología, y rediseñar las funciones de empleados mediante asistentes o cobots”, enumeró. En cuanto a los desafíos, remarcó “recuperar la confianza del cliente en inteligencias artificiales limitadas en el pasado como los chatbots y capacitar al talento humano para aprovechar esta tecnología”.

Por su parte, el representante de Telefónica insistió en que la empresa centenaria de comunicaciones “utiliza la IA en numerosas áreas; desde el despliegue de redes hasta su mantenimiento predictivo, por enumerar solo algunas”. En el centro de la cuestión se encuentra “mejorar la calidad de los servicios”, aunque “la IA es trasversal y se aplica con éxito en los departamentos de recursos humanos, las áreas de finanzas o el gabinete legal, por ejemplo”, según explicó Carlos Martínez. “Esta amplitud es lo que permite adaptarla a las necesidades, ya sean específicas o generales”. Pero hay un requisito para poder hacerlo “Una buena digitalización previa es esencial para que las pymes puedan aprovecharse del potencial de la IA”, aseguró.

"Deben prevalecer los casos de uso que aporten valor. La IA debe ser humana, responsable y sostenible", David Villaseca (Moeve)

Pero si hay en estos momentos dos tendencias al alza y que, además, caminan juntas son la propia IA y la sostenibilidad. Sobre esta colaboración entre materias disruptivas, David Villaseca explicó que “la inteligencia artificial facilita la transición energética porque apoya el desarrollo de biocombustibles, por ejemplo, pero también otros avances significativos, como el diseño de plantas nativas digitales que reducen sus emisiones desde el principio”. De hecho, el experto de Moeve mencionó la planta que la compañía está fabricando en Huelva y que “servirá para reducir todas las emisiones del transporte por carretera en España en un 4%”. Pero más allá de las compañías, respecto a cómo afecta la IA a las personas, el Chief Digital Officer aseguró que “debe sentirse como una experiencia simple y rápida, personalizando su aprendizaje y capacitación. Han de priorizarse el propósito y la utilidad de la IA, enfocándose en el valor de cada caso de uso y sus oportunidades, no solo en la tecnología por sí misma”. Sobre esta cuestión subrayó que “la IA debe ser humana, responsable y sostenible”.

En el caso de Airbus, la “la IA generativa ha transformado internamente la empresa”, reveló su representante en la mesa redonda. Tanto es así que “ha mejorado la productividad en un 20%” y “ha fortalecido la innovación mediante la retroalimentación de los empleados”, tal y como apuntó Sandra de Lucas. En su análisis, la experta también resaltó “la importancia del factor humano y la gestión del cambio”. Bajo su punto de vista, “la IA debe acompañarse de formación para que los empleados puedan realizar tareas de mayor valor”.

¿Se confirma su potencial o hay que esperar?

Uno de los momentos más esperados de la jornada llegó con el primero de los Q&A programados. Concretamente, Manuel Ángel Méndez, redactor jefe de la sección de tecnología de El Confidencial, entrevistó a Sasha Rubel, Head AI Policy, EMEA en Amazon Web Services.

En la conversación, la experta destacó cómo la IA permite “explorar el uso de gemelos digitales para simular y mitigar riesgos relacionados con desastres naturales y crisis de salud”. Sasha Rubel explicó que “este enfoque se ha acelerado a partir de lecciones aprendidas durante la pandemia y ya se ha demostrado cómo la tecnología puede mejorar la preparación y respuesta ante catástrofes”.

Respecto a la regulación de la IA en Europa, abogó por “una regulación clara y técnica que permita escalar su adopción sin frenos burocráticos, especialmente en sectores como el financiero y el médico”. De hecho, en su opinión, “la incertidumbre regulatoria es una barrera significativa, particularmente para startups que pueden destinar hasta un 30% de su financiación solo a temas de cumplimiento”, advirtió.

"Necesitamos una regulación clara y técnica que permita escalar su adopción sin frenos burocráticos", Sasha Rubel (AWS)

Sasha Rubel también abordó las tendencias que nos esperan con esta tecnología y apuntó que “se prevé que en los próximos años veamos un cambio hacia modelos de lenguaje más pequeños y específicos para distintos idiomas y culturas, tales como las lenguas indígenas”. Asimismo, otra tendencia sería “la integración de agentes de IA que facilitarán tareas diarias y de automatización. Es decir, la IA seguirá liberando tiempo para que las personas se enfoquen en actividades que requieran humanidad y creatividad”, aclaró.

Tras la experta de AWS, las compañías tecnológicas tomaron el escenario en la quinta mesa redonda titulada Las otras ‘big tech’: un nuevo escenario tecnológico, con la participación de Alberto Pinedo, National Technology Officer en Microsoft España; Héctor Sánchez Montenegro, National Technology Officer de Google Cloud; y Enric Delgado, CTO and Director of Client Engineering en IBM.

Uno de los temas abordados fue la falta de talento específico para abordar la IA, ya que se trata de “una herramienta de transformación que afecta a todos los sectores”. Sobre esta cuestión, Alberto Pinedo destacó “la colaboración con universidades, que nos está permitiendo salvar esta brecha”. En relación con la seguridad, la privacidad y la explotación, el National Technology Officer de Microsoft confirmó que su empresa “está implementando garantías de propiedad intelectual y uso de datos para los clientes, asegurando que estos no se usen sin autorización”. De cara a la evolución de esta tecnología en los próximos años, defendió que “la sostenibilidad y la optimización de recursos serán fundamentales, en nuestro caso con el objetivo de reducir el consumo de agua para 2030”.

"La IA nos ha permitido detectar vulnerabilidades que habríamos tardado años en identificar", H. Sánchez Montenegro (Google)

Por su parte, Héctor Sánchez Montenegro puso el foco en “cómo la IA se está poniendo en marcha en industrias muy diversas” y se detuvo en el ejemplo de la ciberseguridad: “En esta materia, la inteligencia artificial nos ha permitido detectar vulnerabilidades que habríamos tardado años en identificar”, recalcó. Entre los desafíos, añadió “la migración de clientes a la nube” porque “ayuda a la gestión de modelos generativos que se pueden optimizar para ámbitos específicos”. Preguntado por la competencia entre empresas tecnológicas, enfatizó que “es beneficiosa e impulsa el desarrollo tecnológico”. “Prueba de ello —prosiguió— es el hecho de que el pistoletazo a la IA generativa de la que hablamos hoy se produjo cuando Google compartió un artículo científico”.

Concretando cómo avanza la IA en las empresas, Enric Delgado detalló que “es cierto que los pilotos para mejorar procesos con esta tecnología son cada vez más frecuentes, pero la realidad es que pocos llegan a producción real”. Uno de los casos de uso con mayor proyección es, según indicó, “la evaluación automatizada de documentos porque es un terreno en el que se puede ahorrar mucho tiempo y las herramientas de IA la realizan cada vez mejor”. Preguntado por las tendencias apreciables de cara al futuro, opinó que “parece que vamos a modelos más pequeños y eficientes en producción”. También coincidió el experto en que “el sector está colaborando mediante el intercambio de investigaciones para promover beneficios comunes” como había señalado su compañero de coloquio.

¿Está cambiando tu vida con la IA?

El tramo final del foro giró en torno a cómo la IA está cambiando la vida de las personas y contó con dos paneles. El primero fue el segundo Q&A de la jornada, esta vez protagonizado por Erika Staël Von Holstein, CEO del think-tank Reimagine Europa, quien mostró su “preocupación” por “la falta de una regulación adecuada y un enfoque crítico por parte de la sociedad para controlar la influencia de la IA en nuestras percepciones y decisiones”, tal y como expuso.

De hecho, gran parte de la conversación se centró en el impacto en la polarización de la información: “La IA está desempeñando un rol crucial en la distribución y percepción de la información, incrementando la polarización en la sociedad”, protestó la experta. En su análisis, destacó que “las plataformas basadas en algoritmos, como las redes sociales, son protagonistas de este fenómeno, especialmente en contextos sensibles como las elecciones de Estados Unidos”. Y es que, según sus palabras, “la desinformación es más efectiva cuando se orienta a las emociones en lugar de hacia la lógica”. Esto es relevante, “ya que explica por qué las noticias falsas o sesgadas se difunden más rápido. La apelación emocional supera la racionalidad en la toma de decisiones del usuario, algo que los bots e IA explotan para hacer más convincente su narrativa”, advirtió.

"La apelación emocional supera la racional. Los bots lo explotan para hacer convincente su narrativa", E. S. Von Holstein (Reimagine Europa)

Asimismo, la CEO de Reimagine Europa aseguró que “actualmente, una proporción significativa de la información en la red, cerca del 40%, es generada por bots, y entre el 50% y 60% del contenido proviene de empresas que usan IA”. “Esta automatización plantea un desafío sobre la autenticidad y el sentido del contenido —continuó—, puesto que pueden completar o reinterpretar información de manera que afecta la narrativa y el significado percibido”. Erika Staël Von Holstein alertó que “la verificación de hechos no es suficiente para contrarrestar la desinformación porque aborda los hechos de manera aislada sin contrarrestar la narrativa emocional en la que esta se inserta”. La receta que propuso se basa en “abordar la información desde un contexto narrativo que brinde un sentido más amplio y reduzca la efectividad de la desinformación emocional”, reiteró.

Para concluir la jornada, la sexta y última mesa redonda se tituló ¿Qué pasa con nuestro trabajo… y privacidad? y en ella participaron Carles Sierra, director del Instituto de Investigación de Inteligencia Artificial del CSIC; Marta Peirano, periodista y analista tecnológica; y Juán Pavón, catedrático de IA de la Universidad Complutense de Madrid y director del Instituto de Tecnología del Conocimiento.

Carles Sierra recordó que “la IA tiene raíces más profundas que su versión generativa. De hecho, se remonta a los años 50 o incluso antes, por eso la IA general no se alcanzará únicamente con IA generativa”. Pero el mensaje más potente que compartió con el público el investigador del CSIC fue que “la educación de los usuarios es la asignatura pendiente para no confundir lo correcto con lo verosímil en las respuestas de IA y así evitar que las alucinaciones se consideren como algo cierto y verificado”. Esto nos llevará, según sostuvo, a considerar “el espíritu crítico y la regulación como elementos absolutamente necesarios para una implementación ética y segura”. Entre los riesgos en el horizonte existen otros: “Algunos de los peligros para la democracia ya los vimos con Cambridge Analytics en las anteriores elecciones que ganó Donald Trump”. Y dejó una reflexión para cerrar su intervención: “La pregunta no es qué se puede hacer con IA, sino qué se debe hacer”, destacó.

"La pregunta no es qué se puede hacer con IA, sino qué se debe hacer", Carles Sierra (CSIC)

Para Juan Pavón, “no se habla de lo realmente complejo que es la ingeniería de software que nos hace falta para construir estos sistemas. Necesitamos infraestructuras que nos permitan escalar estos servicios y combinar tecnologías. Esto es lo más difícil”, expuso. “También es importante entender al cliente porque la regulación podría frenar la innovación. El problema es cómo se aplica esta regulación en un mundo tan global”, puntualizó. En cuanto a la educación, aconsejó “adaptarse a estas herramientas porque los estudiantes y los profesionales las utilizarán en su día a día”.

Finalmente, la periodista Marta Peirano solicitó que “dado que la IA generativa tiene un impacto profundo, debemos requerir mayor transparencia en su funcionamiento y uso de recursos”. En su opinión, “la regulación europea es una oportunidad para controlar la IA de acuerdo con los valores locales”. Sin embargo, admitió que “debería estar capacitada para implementarse a la escala que se está introduciendo la IA en todos los aspectos de la sociedad. En otras palabras: no tenemos fuerzas para escalar la ley a la altura que tienen actualmente los modelos”, se lamentó. Por último, la experta planteó la pregunta de si Europa “puede liderar esta tecnología de manera ética y segura frente a otras potencias que están priorizando objetivos muy distintos”.