España se pone en manos de Microsoft para la IA. Estos tres 'sabios' avisan de lo que viene

En la foto que encabeza este artículo hay tres personalidades, pero ningún sabio, al menos oficialmente. La imagen se tomó este lunes en la Moncloa y muestra al presidente del Gobierno, Pedro Sánchez, estrechando la mano de un ejecutivo que tal vez no conozcas. Es Brad Smith, el presidente mundial de Microsoft, flanqueado al otro lado por José Luis Escrivá, ministro de Transformación Digital. Se felicitan porque Microsoft va a invertir en España 2.100 millones de dólares en centros de datos para su negocio de inteligencia artificial (IA), la mayor cifra de su historia en nuestro país. Y sonríen también porque el Gobierno ha abierto las puertas a cerrar importantes contratos con Microsoft para inyectar IA en la administración pública. El acuerdo, sin embargo, ha descolocado a algunos de los mayores expertos en IA a los que el propio Gobierno bautizó como sabios, nombró como asesores en su estrategia de IA, y de los que ahora no quiere saber nada.

"¿Me sorprende este acuerdo con Microsoft? Hombre, pues sí. Como europeo me gustaría que mis datos no dependieran de una multinacional estadounidense. Pero no es lo único sorprendente", explica a El Confidencial Carles Sierra, director del Instituto de Investigación en Inteligencia Artificial (IIIA) del CSIC.

Sierra no solo es uno de los principales especialistas en IA de nuestro país, también es funcionario público dependiente de un organismo del Estado y fue uno de los sabios nombrados oficialmente por el Gobierno para asesorarles en esta materia. Dimitió de su puesto hace un año por discrepancias con el Ejecutivo, igual que Lorena Jaume-Palasi, fundadora de la ONG The Ethical Tech Society, y el chileno Ricardo Baeza-Yates, director del Instituto de Inteligencia Artificial Experiencial de la Universidad Northeastern, en Silicon Valley (California).

El acuerdo del Gobierno con Microsoft esta semana ha reavivado las dudas sobre su plan de usar IA en la administración pública. Es una de las grandes prioridades del recién aterrizado ministro Escrivá, pero hay más incógnitas que respuestas. ¿En qué va a consistir dicho acuerdo? ¿Cuántos contratos habrá y por qué cuantía? ¿Para qué se va a emplear la IA generativa? ¿Qué garantías ofrece Microsoft de que los datos de los ciudadanos permanecerán privados y seguros?

TE PUEDE INTERESAR

Un fondo opaco al servicio de Abu Dabi: qué hay detrás del nuevo centro de IA de Granada

Pablo Jiménez Arandia

Los portavoces del ministerio de Transformación Digital consultados no dan más detalles al respecto. Solo hablan de "un marco de colaboración para intercambiar buenas prácticas" e impulsar la IA de "manera ética y responsable". ¿Qué significa todo esto? Les preguntamos a los tres exsabios en IA del Gobierno.

Carles Sierra: Lo que he visto esta semana ha sido sorprendente. Va en contra de otra iniciativa que ha impulsado España desde el 2019 junto a Francia y Alemania. Se llama Gaia-X y la idea es tener un cloud europeo propio, un sistema del que nos podamos fiar para almacenar y gestionar los datos de nuestros ciudadanos. Francia ha seguido esta filosofía, los proveedores de cloud del Gobierno francés son franceses. Punto. No hay más. Alemania y España han empezado a distanciarse de esta idea. Muchas veces nos quejamos de que los americanos y los chinos hacen las cosas y nosotros no, pero, si había una alternativa aquí, en Europa, ¿por qué no poner dinero para que funcione?

Lorena Jaume-Palasi: Microsoft, Amazon o Google no te dan solo servicios, lo que quieren es ofrecerte su infraestructura. Lo hacen porque eso genera una dependencia y, con ella, se crea a la vez una vulnerabilidad para la administración. Lo venden dentro de esa narrativa de "hay que progresar, hay que digitalizarse". Al final, tienes a administraciones que se lo juegan todo a una carta, a un servicio solo digital, ofrecido por solo un proveedor.

Ricardo Baeza-Yates: A mí me preocupa que se decida que España va a depender de una compañía. Muchas veces tienes que depender de varias firmas privadas, porque si pasa algo con esa empresa, cualquier incidente puede acabar en desastre. Ahora hay un hype con la IA generativa y los gobiernos están siguiendo al resto, aunque sean lemmings. No se sabe si al final hay un precipicio y se van a despeñar, pero allá van. Se está haciendo caso al mercado sin pensar qué es lo correcto, qué es lo deseable a largo plazo para los ciudadanos.

La cifra que Microsoft ha anunciado esta semana en España puede parecer abultada, pero es muy inferior a la que anunció días antes en Alemania: 3.400 millones de dólares para instalar centros de datos en el país y llevar sus soluciones de IA a la administración alemana. ¿Por qué está siendo Microsoft tan agresivo en su política comercial en Europa? ¿Es arriesgado para los gobiernos aliarse con ellos? Y, más relevante aún, ¿hay alguna alternativa mejor? ¿Cuál es?

Lorena Jaume-Palasi: Claro que hay alternativa, podríamos hacer todo de forma mucho más local. Ahora con la IA el Gobierno se empeña en soluciones nacionales, pero la realidad en que cada CCAA tiene sus propias competencias, sistemas, procesos de licitación… Integrar todo eso luego es casi imposible. Lo que vende Microsoft es que con un único software, el suyo, todo va a ser superfácil, pero luego nunca es así. Si hablas con los funcionarios que usan estas tecnologías, y no son los ministros, dan siempre otra realidad. Amazon, Google o Microsoft persiguen organizar su infraestructura en Europa y que se privilegie sobre la de su rival. ¿Cómo lo consiguen? Convirtiéndola en parte de la infraestructura del Gobierno.

Carles Sierra: La IA generativa te sirve para crear textos, imágenes... pero en ningún momento pretende ser correcta en aquello que genera. Entonces, ¿para qué usarlo en la administración? Si es para toma de decisiones que afecte a los ciudadanos, eso hay que ponerlo en cuarentena inmediatamente. Si se va a emplear para hacer un resumen de un texto a un ministro, con supervisión humana, o de una reunión, eso puede ahorrar tiempo. Hay que tener claro para qué se quiere usar.

Consultado al respecto, el ministerio de Transformación Digital solo asegura que el objetivo de usar IA en la administración será "el aumento de la productividad, la mejora de la gestión y el acercamiento de la administración al ciudadano de manera más personalizada y cercana". ¿Cómo, exactamente? De momento, es un misterio.

Ocurre lo mismo con el impacto energético y en los recursos hídricos que tendrán los centros de datos que se instalarán próximamente en España. Microsoft ha confirmado esta semana sus planes de levantar un campus de centros de datos en Madrid (en San Sebastián de los Reyes, Meco y Algete) y otro en Aragón. Es solo una pieza más en la red que levantará en 17 países europeos. La compañía asegura que su inversión en Aragón "podría sumar 8.400 millones de euros al PIB español y contribuir a la creación de 69.000 puestos de trabajo indirectos entre 2026 y 2030". Sin embargo, no ofrece ningún cálculo de cuál será el consumo energético y de agua en la región, una zona cuyas reservas de agua se encuentran en mínimos históricos tras dos años consecutivos de sequía.

Más centros de datos, más sequía

No hace falta irse muy lejos para saber qué está ocurriendo con estas instalaciones en otros puntos de Europa. Microsoft ha construido dos gigantescos centros de datos en zonas rurales del norte de Países Bajos, de casi 1.000 metros cuadrados cada uno. Google también posee allí uno de estas dimensiones, donde se ubican otros 200 centros más pequeños. Meta intentó levantar el suyo, pero la oposición de los ciudadanos llevó el proyecto al traste.

Estos centros consumen millones de litros cada año en refrigeración. Microsoft aseguró que su planta en Middenmeer (Países Bajos) necesitaría entre 12 y 20 millones de litros anuales. Cálculos realizados por medios locales aseguran que, en realidad, su consumo supera los 80 millones al año. En total, los centros de datos del norte del país utilizan 550 millones de litros de agua potable al año. Esto supone solo un 0,5% del total disponible, pero cada vez más agricultores y ciudadanos se están oponiendo a estos mega proyectos tecnológicos.

Lorena Jaume-Palasi: En España se nos viene encima algo similar o peor a lo de Holanda. Primero, por el impacto energético. Madrid concentra el 90% de la capacidad total de centros de datos del país [hoy hay más de 60 en todo el territorio nacional]. Pero ya hay un problema porque no se da abasto a suministrar electricidad a todos estos centros de datos, la red eléctrica está saturada. Eso a pesar de que Madrid recibe el 80% del presupuesto de energía eléctrica del país. Y luego está el impacto en los recursos hídricos, que es enorme.

Microsoft tuvo que reconocer en los Países Bajos el año pasado que los cálculos que habían hecho del consumo de agua eran mucho más bajos que la realidad. La zona donde se asientan la mayoría de centros de datos en el país es una zona con mucha abundancia de agua, pero tuvo sequía recientemente. Tuvieron que racionar el agua, y no a Microsoft, sino a las personas que viven allí. No sabemos exactamente cuánta agua consumen estas instalaciones, pero sí sabemos que consumen más de la que se está calculando y publicando. Y también sabemos que es un consumo al alza. Empresas como Tesla o Microsoft instalan sus centros de datos, y al cabo de un tiempo piden más terreno para ampliar las instalaciones porque la demanda se dispara, y eso a su vez dispara el consumo de recursos. Eso está pasando en Holanda, pasa en zonas de Alemania y pasará en España.

Ricardo Baeza-Yates: Muchas de las decisiones de instalar aquí o allí un centro de datos de IA dependen de factores como el precio del terreno donde se va a poner el centro de datos, del precio de la energía eléctrica, de la proximidad de fuentes de producción eléctrica y tener acceso a más de una fuente en caso de que tengas problemas de suministro… Creo que no hay racionalidad a la hora de compatibilizar sostenibilidad y negocio. Si realmente hubiera una racionalidad detrás, los Gobiernos no permitirían instalar estos mega centros de datos por motivos de sostenibilidad.

¿Qué hay de la ética de la IA?

El desarrollo de una "IA responsable", que ponga a "la persona y los derechos de los ciudadanos en el centro". Son frases con las que el Gobierno lleva presentando desde hace tiempo su estrategia de inteligencia artificial. Las pronunció el propio ministro Escrivá hace unas semanas en la presentación de su plan de acción para los próximos años (necesitamos una "IA humanista", dijo) y volvieron a aparecer esta semana en la reunión del Ejecutivo con Microsoft. La realidad es que, según varios de los exasesores del Gobierno, la ética brilla por su ausencia.

Carles Sierra, Lorena Jaume-Palasi y Ricardo Baeza-Yates dimitieron hace un año de sus puestos de sabios en el Consejo asesor del Gobierno por el acuerdo entre el ministerio de Transformación Digital y los Emiratos Árabes Unidos para crear un centro de ética de IA en Granada. El proyecto, financiado al 50% entre España y uno de los mayores fondos de inversión estatales del planeta, el Abu Dhabi Investment Authority (ADIA), fue la gota que colmó el vaso.

Carles Sierra: Yo fui el primero en dimitir. La razón fue básicamente el acuerdo al que se llegó con Emiratos Árabes Unidos para constituir un centro de investigación en IA en Granada con financiación paritaria del Gobierno español. Me parecía una barbaridad que, cuando estamos pregonando la ética de la IA, firmemos un acuerdo con un país que no respeta los derechos humanos en absoluto. No podía continuar en el comité asesor, entre otras cosas porque el comité nunca fue consultado sobre la creación de este instituto. Estar en un consejo asesor al que no se le pide consejo y que se tomen decisiones que van en contra de los principios de ética en IA no tiene sentido.

Ricardo Baeza-Yates: Fue un caso de libro de Emiratos de ethics washing, invertir en una iniciativa ética para lavarme las manos de lo que hago en mi país. Eso no tenía ningún sentido, además de que nunca nos preguntaron qué nos parecía esa idea. Lamentablemente, cuando uno está en uno de estos comités, parece que legitimas todo lo que hace el Gobierno porque da la impresión de que hemos dado nuestro consejo o consentimiento para hacer esas cosas, y eso nunca ocurrió.

"No han creado un Consejo asesor en inteligencia artificial, han creado un florero".

Los tres investigadores consultados aseguran que ahora, con el acuerdo con Microsoft, ha pasado algo parecido: nadie ha consultado al Consejo asesor existente, establecido primero como consejo de sabios en 2017 (creado por el aquel entonces secretario de Estado para la Sociedad de la Información, José María Lasalle). Y luego convertido a finales de 2019 en un Consejo asesor por la Secretaría de Estado de Digitalización e Inteligencia Artificial (Sedia). Preguntado al respecto, la respuesta del actual ministerio de Transformación digital descoloca aún más.

"El Consejo Asesor de Inteligencia Artificial sigue vigente en el nuevo ministerio para la Transformación Digital y de la Función Pública y se suma a los espacios de colaboración público-privado como el de Microsoft". Entonces, ¿les han consultado previamente qué les parece este nuevo "espacio de colaboración público-privado? "Este tipo de acuerdos no entra dentro de sus competencias".

Lorena Jaume-Palasi: No han creado un Consejo, han creado un florero. Nuestro trabajo, según Moncloa, era asesorar de forma independiente. ¿Cómo vas a aconsejar de forma independiente si sabes que el Gobierno acaba de hacer un contrato con los Emiratos Árabes Unidos en los que tu universidad o tu empresa va a sacar tajada? Lo mismo ocurre con el centro de supervisión de la IA, se ha ido a La Coruña, con miembros del Consejo con intereses en llevárselo a La Coruña. Así pasa con muchos proyectos. ¿Lo de Microsoft? Otro tanto, solo que ahora el Gobierno ya ni consulta a sus sabios.