Este español lleva años estudiando 'memes' y vídeos de internet y tiene un aviso sobre la IA

Hace unos días se produjo una estampa supuestamente histórica. Vladímir Putin, presidente de Rusia, recibía en Moscú al presidente chino, Xi Jing Ping, uno de sus principales valedores diplomáticos en el delicado momento que atraviesa el dirigente por su decisión de invadir Ucrania. El exagente del KGB se arrodilló ante su homólogo asiático para rendir pleitesía. La escena no tardó en hacerse viral y cosechar la incredulidad de millones de usuarios en internet. El pastel tampoco tardó mucho en destaparse: no era una fotografía, era una imagen generada con inteligencia artificial. "Se tuvo que hacer un trabajo de arqueología visual importante para distinguir que era falsa", explica Alberto Venegas (Badajoz, 1988).

"No podemos perder esto de vista, porque va a ser un gran reto en el futuro. Ahora se ha podido actuar relativamente rápido porque era un caso concreto. Pero ¿y cuando tengamos cientos o miles de casos similares? No vamos a tener los suficientes recursos forenses para actuar tan rápido. Si tardas en arreglarlo tres o cuatro semanas, la desinformación queda en la cabeza de la gente", advierte este historiador y escritor.

"Estoy seguro de que la inteligencia artificial va a multiplicar este problema"

Sabe de lo que habla. Doctor por la Universidad de Murcia, este joven lleva años estudiando desde memes hasta vídeos de internet, videojuegos, películas de cine y series. Todo con el objetivo de explicar cómo el contenido multimedia que nos bombardea constantemente modela el recuerdo que tenemos de, por ejemplo, la II Guerra Mundial o el Salvaje Oeste y muchas veces nos induce a recordar las cosas como no fueron. "Estoy seguro de que la inteligencia artificial va a multiplicar este problema".

PREGUNTA. La última vez que hablamos, había una bronca tremenda en internet porque el Thor de un videojuego era gordo y pelirrojo, como da a entender la mitología nórdica, y no era un tipo apolíneo, rubio y mazado como el de Marvel. Usted me explicó que eso se conoce como retrolugares, un concepto que en la vida había escuchado. Refresquemos la memoria, por favor.

RESPUESTA. No sabemos que es mentira. No sabemos que eso no pasaba exactamente así, pero en nuestra cabeza es así y podemos llegar a enfurecer si nos lo cambian. Son imágenes que nos vienen por los principales medios de comunicación de masas, que constituyen una suerte de memoria estética. Como tienen tanto alcance y se repiten tanto, como el caso de Marvel, se nos quedan grabadas y constituyen un precedente. Si nos lo cambian, podemos tener la sensación de que nos están engañando y, hasta cierto punto, puedo entender el mecanismo que lo provoca.

P. Pero estamos hablando de películas y videojuegos. Entiendo que no tienen que ser estrictamente fieles a los hechos y a otros aspectos como tiene que serlo un ensayo o un libro de historia.

R. Evidentemente, no tiene por qué serlo. No esa necesidad de ser rigurosa, porque puede ser lo que le dé la gana al creador. No se rige por lo que se rige, por ejemplo, un ensayo ni un documental histórico. El problema no reside ahí, reside en cómo se traslada y se vende ese producto, especialmente cuando tira de un fotorrealismo que hace que un producto de ficción sea percibido como algo real. Steam, una de las mayores tiendas de videojuegos, tiene cientos títulos que se publicitan con la idea de vender la experiencia de vivir en primera persona lo que ocurría en las trincheras o sobre el campo de batalla, cuando es evidente que no se ajusta a lo factual y falta contexto, clave para entender lo que ocurrió. Además, yo lo veo mucho con mis alumnos de secundaria, el primer contacto que muchas personas tienen con esos sucesos son los videojuegos o con series y películas, ahora que hay muchísima más oferta gracias a Netflix y el resto de plataformas.

Venegas explica que esos denominados retro lugares y ese pasado mediático muchas veces confrontan con el pasado real y que se producen situación un tanto surrealistas y críticas desmedidas. Recuerda el caso del Battlefield V, un título de Electronic Arts ambientado en la II GM, que sufrió una campaña de desprestigio y grandes críticas por incluir mujeres soldados. "No deja de ser curioso esto. Aceptan un juego en el que cuando te matan resucitan sin tener que iniciar la misión pero no aceptan mujeres en el frente, que por cierto las hubo en el frente oriental. Tampoco se cuestionan, por ejemplo, que los civiles no estén representados cuando supusieron dos tercios de las víctimas del conflicto", explica para ilustrar las contradicciones que existen en estos casos y lo selectivas que suelen llegar ser todas estas polémicas.

Perpetuar y repetir errores

Hace unas semanas, muchas personas compartieron en internet una serie de imágenes que mostraban París en el momento de la Revolución francesa. Eran pinturas como las que ilustran este texto que emulaban una vista similar a la que tendría un ultra gran angular o un ojo de pez generadas por MidJourney, una inteligencia artificial generativa para imágenes. Venegas pone el acento en cómo se entrenan los sistemas que luego crean estas imágenes.

"El algoritmo, para conseguir resultados definitivos, busca en un pasado ya cerrado y definitivo que el pasado mediático, con recursos o imágenes que encuentran en internet", argumenta. "Luego lo reproduce con diferencias pequeñas de manera acrítica, perpetuando así mitos e ideas erróneas". Además, en el caso de las imágenes capital gala, señala que MidJourney hace un pastiche de elementos de diferentes épocas, mezclando elementos que nunca convivieron. "Si eso alguien lo ve sin ojo crítico y sin el conocimiento necesario, podrá darlo por bueno y construir una imagen mental que no es correcta".

El autor de Pantallas de la memoria explica que en absoluto esto es un problema exclusivo de la IA, sino que ya se vio con la producción audiovisual en el pasado. "Ese efecto pastiche lo hemos visto desde hace años en la gran pantalla. Un buen ejemplo de ello es Gladiator", remata. La película, que data del año 2000 y protagonizada por Russell Crowe, introducía diversos anacronismos como candados que no se inventaron hasta 1920, cambiaba el Coliseo de lugar o disponía la legión romana marchando como lo hacía el ejército nazi.

"Estas cosas son producto de la cultura del blockbuster que se ha apropiado en gran parte de los medios de masas. El avance en técnicas de imagen ha hecho que muchas veces el espectador se pregunte cómo se ha hecho esto y no tanto del mensaje que transmite o lo que cuenta", apunta, subrayando el caso de Avatar o de 1917. "En esta película todo lo que se hablaba y debatía era sobre cómo se había logrado hacer la cinta en una sola secuencia, sin un corte".

"Se obvia el contexto y, por tanto, hay que colocar elementos fácilmente reconocibles por el espectador con códigos familiares"

Algo que también es aplicable a Red Dead Redemption 2, uno de los juegos que mejor crítica ha recibido en los últimos años por su espectacular factura técnica y visual. "Se habló más y llamó más la atención que los testículos del caballo que se agrandaban y se encogen si hacía frío o calor que otros aspectos sociales o históricos de la época en los que se desarrolla el juego, donde, por ejemplo, no se ve a ningún antiguo esclavo afroamericano y apenas se trata el asunto de refilón". Esa falta de contexto histórico que ayude a comprender el mensaje o lo que se pretende contar, se traduce en que hay que incluir elementos fácilmente reconocibles que luego perduran en el tiempo e inducen a errores futuros. "Se obvia el contexto y, por tanto, hay que colocar elementos fácilmente reconocibles por el espectador con códigos familiares".

Esa distorsión del pasado puede multiplicarse ahora con la irrupción de Bard, ChatGPT y otros sistemas similares por varias razones. La primera de ellas es una cuestión de escala. Cualquier persona no puede hacer una película de masas, pero millones de personas pueden utilizar las IA generativas y difundir sus resultados por internet. La segunda razón, explica el autor, es la falta de transparencia de las bases de datos y el entrenamiento de los modelos de lenguaje. Algo que impide comprobar muchas cosas como, en su caso, si la información con la que se alimenta este sistema es rigurosa o no.

El nacionalismo digital

Otro melón que abre Venegas es el nacionalismo digital. Antiguamente, Hollywood era señalado por los detractores de Estados Unidos como un poder blanco que le permitía difundir su interpretación del mundo y de la historia a través de las superproducciones. Esto corre el riesgo de repetirse ahora, ya que la mayoría de empresas que están liderando el desarrollo de la inteligencia artificial generativa, están marcando el ritmo y sentando las bases, son empresas norteamericanas como Google o Microsoft.

"Hay un problema de base que ya hemos empezado a experimentar en otras tecnologías, dominadas por un grupo muy pequeño de empresas que introducen ciertos patrones en el desarrollo o en la imagen que se proyecta", explica. Para ejemplificar esto recupera el episodio ocurrido con el Call Of Duty en 2020. Activision Blizzard fue protagonista de una fuerte polémica tras incluir en el tráiler de lanzamiento imágenes de la plaza de Tiananmén. El vídeo fue rápidamente retirado y editado, sin los planos de la masacre, por la presión de China, que censura toda referencia a estos episodios.

"Activision cedió a la presión de Tencent, uno de sus accionistas", recuerda el docente, que cree que este episodio sirve para ilustrar las distorsiones que se pueden introducir en las inteligencias artificiales generativas desde las bases de datos que se utilizan para su entrenamiento. "En el tema del entrenamiento existe otro problema añadido. ¿Cuáles son los países más representados y con más presencia en internet? Los países más desarrollados. Si no cuidamos la base, podemos perpetuar sesgos o no ser rigurosos desde el punto de vista histórico. Hemos visto vídeos sobre la arquitectura generados con estos sistemas que empiezan en la prehistoria, luego saltan a Babilonia y luego al imperio griego y romano para seguir con los visigodos, bizantinos... ¿Qué ocurre? ¿Que los chinos y los japoneses no construían?", advierte.