"La inteligencia artificial ya no solo sirve para ganar guerras, sino para provocarlas"

"Te deseo que vivas tiempos interesantes", dice un antiguo proverbio chino. No es exactamente un deseo amable. Los tiempos interesantes suelen ser convulsos, imprevisibles y difíciles de descifrar. Algo parecido ocurre con la época que describe el coronel Ángel Gómez de Ágreda (Salamanca, 1965), marcada por una aceleración tecnológica que transforma no solo la manera de informarnos, sino de percibir la realidad.

Gómez de Ágreda es coronel del Ejército del Aire y del Espacio en la reserva, piloto militar de transporte y paracaidista. Especialista en ciberseguridad, inteligencia artificial y geopolítica, ha sido analista jefe de geopolítica en el Ministerio de Defensa y agregado de Defensa en Corea del Sur y Japón. En su último libro, 'Un mundo falaz' (Ed. Ariel), revela cómo los algoritmos y los datos fabrican una realidad que se impone a los hechos, hasta convertir el mundo en una gigantesca fake news. Nos atiende cerca de una hora en la sede del Grupo Planeta en Madrid. Estos días se encuentra "varado" en España después de que el cierre del espacio aéreo le impidiera regresar a Qatar, donde reside habitualmente.

PREGUNTA. En 'Mundo Orwell' advertía de un mundo de vigilancia masiva inspirado en 1984. En 'Un mundo falaz' parece describir algo todavía más inquietante: un mundo donde los algoritmos ya no solo predicen lo que hacemos, sino que fabrican una realidad prêt-à-porter para condicionar nuestras decisiones. ¿Cuándo se cruza ese umbral y por qué?

RESPUESTA. En 'Mundo Orwell', hace siete años, describía ese mundo de vigilancia que venía de China. Avisaba que, por mucho que nuestros valores sean muy distintos, se estaba imponiendo esa vigilancia permanente. Según hemos ido adquiriendo más capacidad para procesar todos esos datos que se estaban recopilando, tratarlos y descubrir las fortalezas y debilidades de cada persona, hemos podido construir un discurso a medida de cada uno de nosotros.

Lo que estamos viendo ahora en las redes sociales, e incluso en la prensa, es un discurso personalizado pensado no para moldear lo que vemos, sino nuestras emociones.

P. España, como país europeo, también está inmersa en estas dinámicas. ¿En qué punto cree que nos encontramos y qué papel están jugando las redes sociales?

R. Somos víctimas, tanto como país como ciudadanos, de los grandes actores de la posrealidad, que son las grandes empresas que poseen los datos y los Estados en los que se encuentran esas empresas. El paso de la realidad a posrealidad, y a la posverdad, está cambiando la forma de hacer política, de construir comunidad y de relacionarnos en sociedad. Esto se traduce en un aumento de las desigualdades sociales y de la polarización. En China ocurre lo contrario: las redes sociales intentan llevar a todos hacia el pensamiento del Partido y de Xi Jinping. En Occidente, lo que hacen es polarizarnos, porque es mucho más rentable que haya esta división.

P. En el plano internacional estamos viendo un choque cada vez más evidente entre gobiernos y grandes tecnológicas. El enfrentamiento entre Anthropic y el Pentágono muestra hasta qué punto estas compañías tienen capacidad para condicionar decisiones militares.

R. El litigio actual es transitorio y forma parte de una negociación. Pero lo que sí abre es un debate muy interesante sobre el papel que pueden tener estas tecnologías en un ámbito tan complejo como la guerra, donde la letalidad no es un factor diferencial, sino algo que viene por defecto. Lo importante es la autonomía que se le da a esa arma y, sobre todo, la autonomía que conserva el operador humano, que al final será el responsable.

Ese es uno de los ámbitos en los que estamos trabajando mucho en este momento. Estamos intentando definir cuáles deben ser esos límites, no solo para armas ofensivas, sino incluso para los vehículos que se mueven en el campo de batalla.

P. Y, hasta ahora, ¿qué límites son esos?

R. Una cosa son los límites éticos que se plantean sobre el uso militar de la inteligencia artificial y otra cosa son los límites éticos que se plantean después en el campo de batalla. Lo estamos viendo en conflictos como Gaza, Ucrania o ahora Irán: la urgencia y el ritmo del combate hacen que muchas veces los límites previstos sobre el papel no se respeten completamente. En Gaza, por ejemplo, se ha hablado de sistemas en los que el operador del ejército israelí tenía veinte segundos para decidir si aceptaba o no la recomendación de un algoritmo para atacar un posible blanco. Cuando estamos hablando de decisiones de vida o muerte, ese margen de veinte segundos a mí se me antoja algo reducido.

Otro caso, en Ucrania hemos visto a civiles mandando información desde sus teléfonos móviles para ayudar a las fuerzas de retaguardia. Luego, su estatus jurídico, ¿es el de combatiente o el de no combatiente? Porque están participando en los combates, ¿son entonces un blanco legítimo?

P. Si el poder hoy pasa por controlar los datos y los algoritmos, y ese poder está en manos de estas pocas tecnológicas, ¿qué margen real les queda a los Estados?

R. Ese es uno de los grandes riesgos que tenemos, acabar en un escenario en el que las tecnológicas acumulen más poder que los propios gobiernos. Hay que pensar que Nvidia, por ejemplo, el año pasado alcanzó una capitalización bursátil superior al producto interior bruto de España, Francia y Portugal juntos. Eso significa que ya no es una empresa, es un actor geopolítico por derecho propio. Mientras Estados Unidos cuenta con varias de estas grandes empresas tecnológicas, en Europa apenas tenemos actores comparables, Mistral en Francia y poco más. Cuando no eres el Estado matriz de esas compañías, tu dependencia es completa y absoluta.

En el caso de Ucrania, Starlink, la empresa de Elon Musk, es la que permite a los ucranianos mantener el combate. Sin Starlink, probablemente la invasión rusa habría durado dos o tres semanas. Y eso dependía de la voluntad de una sola persona: Elon Musk. Él controla los cohetes de los satélites, los propios satélites, la red social X para difundir su relato y también xAI para moldear ese relato. Lo hemos visto también en países más pequeños. En Myanmar, con la violencia contra la minoría rohinyá; después en Sri Lanka y más recientemente en Nepal, donde la caída del Gobierno estuvo muy vinculada a las redes sociales.

"Europa perdió en su momento la autonomía tecnológica e industrial, y ahora corre el riesgo de perder también la capacidad de legislar"

P. Frente a Estados Unidos y China, Europa diseña y regula tecnologías que no posee, ¿qué consecuencias tiene esta realidad para la capacidad comunitaria de influir como actor geopolítico?

R. Mientras diseñe y mientras legisle sobre estas tecnologías, todavía conserva cierta influencia. El problema es que el peso económico europeo en el mundo es cada vez menor, nuestra influencia política también lo es y nuestra unión política probablemente no sea lo suficientemente fuerte como para darnos la cohesión necesaria para ser relevantes en el panorama internacional. Por tanto, incluso esa función legislativa corre el riesgo de quedarse más en un ejercicio académico para el resto del mundo, que toma de ella solo aquello que le interesa.

Europa perdió en su momento la autonomía tecnológica e industrial que le permitía tener autonomía estratégica, y ahora corre el riesgo de perder también la capacidad de legislar sobre tecnologías que, efectivamente, ni fabrica ni diseña.

P. ¿Es entonces la inteligencia artificial el principal terreno de la nueva carrera armamentística entre potencias?

R. Estamos metidos de lleno en esa carrera, pero me parece bastante absurda. Lo que se está haciendo es fomentar inversiones billonarias en estas tecnologías dando una sensación de que estamos llegando a algún sitio. Pero se trata de una carrera de fondo sin una meta definida. El 92% del incremento del PIB de EEUU del año pasado venía de empresas de IA, sin estas, el crecimiento habría sido de un 0,1%. Se están desviando muchísimos recursos económicos y energéticos a empresas que en estos momentos tienen un carácter especulativo, y están generando esta carrera especulando con llegar a una meta que no existe.

P. Si legislar puede quedar relegado a un trabajo meramente académico, ¿qué rol debe adoptar Europa?

R. Europa tendría que cambiar radicalmente el planteamiento que tenía hasta ahora. Quizá desempolvar o aplicar con más rapidez el informe Draghi o el informe Letta, que vienen a decir: tenemos instrumentos, talento, dinero y ese espíritu europeo de innovación y reinvención que hemos demostrado muchas veces. La cuestión es decidirnos a hacerlo. Invertir, salir de nuestra zona de confort y, probablemente, matizar o reducir algunos derechos adquiridos de un Estado del bienestar que en muchos casos se ha vuelto insostenible.

Solo así podríamos retomar nuestro lugar en esa carrera, por lo menos contar con una tecnología propia, una industria propia y, por tanto, la autonomía para decidir sobre nuestro futuro. En caso contrario, no solo dejaremos de influir hacia fuera, sino que seremos incapaces de resistir las influencias que lleguen desde otros países. Desde Estados Unidos o China, pero muy pronto también desde India o Brasil que, partiendo de menores capacidades iniciales, están dando pasos mucho más decididos hacia esa autonomía y hacia esa generación de valor.

TE PUEDE INTERESAR

¿Tiene sentido escuchar el discurso de Estado de la Unión de Trump?

Argemino Barro. Nueva York

P. Usted habla de la guerra cognitiva y del uso de algoritmos para influir en nuestras percepciones. En ese contexto, ¿cómo puede una democracia diseñar una estrategia de disuasión cognitiva eficaz frente a estos desafíos?

R. Siendo una verdadera democracia. El problema es que los índices de calidad democrática que se publican cada año muestran que esa calidad está disminuyendo en todo el mundo. Y, además, se está erosionando un principio básico como es el de la separación de poderes dándole cada vez más poder a los ejecutivos frente a los legislativos y judiciales. Lo estamos viendo todos los días. Estados Unidos es un caso bastante claro, pero ocurre también en muchos otros países. Se evita la consulta pública y se intenta influir directamente en la opinión para privar de apoyos a una posible oposición y evitar los controles necesarios para que haya una verdadera democracia.

El caso estadounidense es muy interesante. El Partido Republicano es difícilmente reconocible respecto al de hace diez o doce años, pero el Partido Demócrata también lo es. La llegada de las redes sociales y, sobre todo, la irrupción posterior de la inteligencia artificial ha cambiado la misma naturaleza no solo de los partidos, sino también de los propios regímenes políticos, de las democracias. Favorece muy probablemente el uso más autárquico del poder, pero no solo en las autarquías, sino también en las democracias, convirtiéndolas en democracias más presidencialistas y, en algunos casos, más cercanas a regímenes que ya dejan de ser incluso democráticos.

P. Hablamos a menudo de batallas por el relato. Pero cuando se trata de derrocar gobiernos, la historia reciente parece indicar que el factor decisivo sigue siendo la fuerza militar.

R. Sí, efectivamente, es así cuando se trata de derrocar un régimen o conseguir un objetivo. Rusia al final acaba invadiendo Ucrania, o se acaba secuestrando a Maduro, bombardeando Irán, Gaza o el Líbano… pero hay que pensar que la inteligencia artificial no se utiliza solamente para ganar las guerras, sino que se utiliza también para provocarlas. Las guerras son actos políticos y es muy importante el relato que hay de cara a empezar esa guerra. ¿Por qué se empieza una guerra? Un Estado no ataca si no tiene a su población convencida, o por lo menos a una parte importante de su población convencida de la legitimidad de esa guerra.

Todo eso se consigue ahora con esa guerra por el relato. Por lo cual, la guerra cognitiva empieza mucho antes de que empiece el conflicto. La verdad es la primera víctima de la guerra, dicen. Entonces la guerra es la primera consecuencia de la mentira. Eso ya pasaba en la guerra de Cuba, pero no es lo mismo tener el monopolio de los periódicos y poder afectar a una población en general que mandar un mensaje personalizado a cada ciudadano, tocando las teclas concretas que llamen su atención.

"No es lo mismo tener el monopolio de los periódicos y poder afectar a una población en general, que mandar un mensaje personalizado"

P. Aún es pronto para saberlo, pero lo hemos visto con Irán o la posesión de armas nucleares.

R. En este caso se ha construido un relato según el cual Teherán constituía una amenaza directa para Estados Unidos y sus intereses, con mayor o menor fundamento. Probablemente, a cada audiencia se le ha ido vendiendo la necesidad de afectar al mercado del petróleo, la necesidad de defender a las familias estadounidenses o, simplemente, la necesidad de tener un entorno en Oriente Medio más favorable a los intereses de Israel.

P. Hemos aceptado desde hace ya mucho tiempo el trueque de nuestra privacidad a cambio de comodidad, y si ahora vemos que el libre albedrío ha dejado de existir dada la influencia de la tecnología sobre nuestras decisiones, ¿cómo puede el individuo recuperar el control?

R. Lo primero es respetarse a uno mismo y respetar su privacidad. Hay que entender que nuestros datos en realidad no son "nuestros datos", sino nosotros. Es un problema de identidad mucho más que de propiedad. La sociedad civil debe exigir a los Estados y a las empresas que respeten esa individualidad. El mundo no va a dejar de existir si esto no se respeta, pero el mundo tal como lo concebimos en Europa y en Occidente probablemente sí. Si perdemos las libertades individuales y el criterio propio como ciudadanos, la democracia y el liberalismo se vuelven imposibles.

El problema es que, con el grado de sofisticación que tiene la tecnología, el ciudadano individual está bastante limitado para contrarrestar el discurso que le llega. Es muy complicado y requiere esfuerzo. Por eso lo primero que debemos cambiar es esta cultura de la comodidad; hay que sustituirla por una cultura de esfuerzo y de búsqueda activa de la realidad.