Es noticia
Menú
Porno de famosas y políticos borrachos: así amenaza el 'deepfake' a nuestra sociedad
  1. Cultura
CINE

Porno de famosas y políticos borrachos: así amenaza el 'deepfake' a nuestra sociedad

El experto en manipulación de vídeos Alejandro Pérez Blanco analiza los principales retos de nuestra sociedad ante la aparición del 'deepfake'

Foto: ¿Quién protagonizó 'El resplandor', Jim Carrey o Jack Nicholson?
¿Quién protagonizó 'El resplandor', Jim Carrey o Jack Nicholson?

En 2017, un usuario de Reddit compartió una serie de vídeos pornográficos protagonizados por algunas de las actrices de Hollywood más populares del momento, como Daisy Ridley, que estrenaba el remake de 'Asesinato en el Orient Express', y Scarlett Johansson, que protagonizaba la adaptación al cine de 'Ghost In The Shell'. En 2018, el expresidente de Estados Unidos Barack Obama apareció en un vídeo tildando a Donald Trump de "pedazo de mierda". En 2019, Jim Carrey sustituyó a Jack Nicholson en la versión original de 'El resplandor' de Stanley Kubrick. En realidad, ninguna de estas tres cosas ocurrieron. Pero ahí están las imágenes. Aquella pregunta de Groucho Marx de "¿A quién va usted a creer, a mí o a sus propios ojos?" nunca estuvo más huérfana de respuesta.

Vídeo de Obama utilizando tecnología deepfake

El día de Año Nuevo de 2019, el presidente de Gabón, Ali Bongo, felicitó las fiestas a sus conciudadanos a través de un vídeo emitido por televisión. Bongo apenas pestañeaba y sus movimientos resultaban antinaturales, por lo que empezó a extenderse la teoría de que el presidente estaba o bien muy enfermo o bien muerto, un rumor que aprovechó el Ejército del país africano para instigar a un golpe de Estado. "Pero era él de verdad. El problema es que el vídeo estaba grabado a 10 fotogramas por segundo y reproducido a 25 fotogramas por segundo, además de estirado a lo ancho. En el momento en el que lo colocas en su sitio parece mucho más normal", explica Alejandro Pérez Blanco. Director de cortometrajes y con más de veinte años de trayectoria en el departamento de efectos especiales en películas como 'Extraterrestre' de Nacho Vigalondo, la serie 'El fin de la comedia', de Miguel Esteban, Ignatius Farray y Raúl Navarro, se ha especializado ahora en la tecnología 'deepfake', con la que transforma en 'El Intermedio' al Gran Wyoming en Santiago Abascal, Íñigo Errejón o Esperanza Aguirre. También es el responsable de resucitar a Chiquito de la Calzada para el anuncio navideño de Campofrío, dedicado este año a las noticias falsas.

Deepfake en 'El intermedio'

¿Qué ocurre cuando no podemos creer lo que ven nuestros propios ojos? Será algo que descubramos en los años venideros. ¿Estamos presparados para descartar como verdaderas imágenes que nos parecen reales? En tres años, el campo de la manipulación de imágenes en movimiento ha sufrido la aparición del 'deepfake', una tecnología que combinando la inteligencia artificial —machine learning y deep learning— y los datos masivos —big data— ha conseguido abaratar costes, reducir tiempos y democratizar lo que antes sólo podían lograr profesionales de los efectos especiales con muchas horas de trabajo y herramientas a precios prohibitivos. La tecnología avanza a velocidad nunca vista, mientras que nosotros, los ciudadanos corrientes y molientes, tenemos que aprender a relacionarnos con ellas a marchas forzadas.

En mayo de 2019, Donald Trump compartió en su perfil de Twitter un vídeo en el que Nancy Pelosi, presidenta de la Cámara de Representantes de Estados Unidos y miembro del Partido Demócrata, intervenía en una charla aparentemente ebria. En realidad, era otro vídeo manipulado. "La gente siempre se cree lo que se quiere creer. Si tú odias a Nancy Pelosi, cualquier vídeo suyo matando perritos te lo vas a creer. Esto era una cámara lenta que, cualquiera, con el Première, lo puede hacer desde el año 2000. Es una de las cosas que me chocan. Cuanto más demagógico sea un vídeo, menos bien hecho puede estar para que la gente se lo crea".

Vídeo manipulado de Nancy Pelosi

"Esto plantea muchísimos problemas", advierte Pérez Blanco medio en serio medio en broma. "Las pruebas de vídeo van a desaparecer. Hay filósofos que plantean que la prueba testifical es lo último que nos queda, porque ya no podemos fiarnos de ninguna imagen. Ya no sólo que los que sean mentira pasen por reales, sino que en las imágenes reales el comprometido diga que son ‘fake’. Ahora mismo ocurre lo de Cifuentes en Eroski y Cifuentes podría decir que no es esa señora". "Me parece casi igual de grave que un gobierno falsifique a su propio presidente, como que la gente no se crea unas imágenes reales de su presidente. Ante esta coyuntura vamos a enfrentarnos a un siglo, en ese sentido, muy complicado".

Por ello, cree que más allá de el entretenimiento, su trabajo en 'El Intermedio' tiene un importante valor didáctico. "Quiero pensar que en ‘El intermedio’ estamos haciendo cierto servicio al público porque en el momento en el que ven que es posible hacer un vídeo así en un programa de humor, la gente ya sabe que esta manipulación puede ocurrir, sobre todo en temas serios como la política".

Gracias al porno

"No sé si el primer deepfake fue porno. El segundo seguro que sí", bromea. "Todo o casi todo lo que se hace hoy de deepfake es en el porno. Nosotros, los que no, somos sólo la punta del iceberg. Tengo suerte de que, hasta ahora, nadie me ha pedido que haga porno, aunque no te digo yo que no lo haría. Si me pagasen bien, pues igual. En el momento en el que se podían cumplir las fantasías de gente dispuesta a pagar por ello, aquello explotó. Todo ha evolucionado muy rápido y el foro principal de gente que ha hecho deepfakes es porno".

Los creadores de estos vídeos tomaron prestada la cara de estrellas de Hollywood para recrear la ficción de verlas desnudas practicando sexo, lo que plantea una vulneración del honor y de la imagen. Pero es muy difícil actuar contra unas imágenes que rápidamente se hacen virales y cuya autoría no es tan fácil de determinar. "La mayor parte de las actrices renuncian a poner medidas. Sé que hay páginas porno que han eliminado de su catálogo los vídeos deepfake, pero en realidad casi todos los avances de los que se está aprovechando la gente como yo se han hecho en el porno".

Otro deepfake con Tom Cruise como protagonista

Gracias a ello, existen aplicaciones que intercambian el rostro del usuario por la cara de Tom Cruise, o que lo integran en 'Titanic' en sustitución de Leonardo Di Caprio. "También hay que preguntarse qué pasa con los derechos de imagen de Tom Cruise. Qué pasa con los derechos de imagen de la gente. Cómo se gestiona todo eso", apunta Pérez Blanco. "Hoy hace falta ser un profesional de los efectos especiales para manipular las imágenes bien, pero en cinco años cualquiera lo podrá hacer con el móvil. Y eso es muy peligroso". Porque también se plantea el uso que pueden tener todas esas imágenes que cedemos gratuitamente cuando compartimos fotos en la red: si tu cara puede ayudar a reconocer una imagen, cientos de imágenes tuyas colgadas en internet también pueden ayudar a reconocer tu cara. China ha estado utilizando los datos masivos para controlar a su población en tiempo de coronavirus... y en tiempo sin coronavirus.

Aprendiendo de las máquinas

Para Pérez Blanco todo empezó en 2018, y, como una buena historia de Twitter de Manuel Bartual, con Manuel Bartual de por medio. "Manuel Bartual y yo hemos colaborado muchas veces. En sus cortos. En sus hilos virales, en los que yo he hecho efectos especiales y, un día, me dijo que estaba trabajando en una cosa y que quería cambiarle la cara a la actriz Nikki García: no quería que la reconociesen. Aquel proyecto se convirtió en un hilo de Twitter viral en el que a la protagonista, Nela, una mujer aparentemente real, se encontraba en la calle el móvil de una desconocida muerta años atrás y acababa envuelta en una trama criminal con secuestro incluido. "Nela García es un conglomerado de varias cosas. Para empezar, su nombre es la fusión de los nombres de Manuel Bartual (Nela por Manuela) y Modesto García. Su rostro lo pone la actriz Nikki García, aunque con otro pelo y ojos diferentes, "prestados" por la novia de Manuel", explicó entonces el cocreador del hilo, Modesto García. Pérez Blanco empezó a probar aplicaciones basadas en estudios sobre inteligencia artificial y consiguió cambiar la cara de una actriz por la de otra con un resultado bastante creíble.

A partir de ahí, comenzó su inmersión en el deepfake. "En realidad, la gente lleva mucho tiempo pensando en esto", explica. "En 1906 Ramón y Cajal gana el premio Nobel por descubrir las neuronas. Fue el primer ser humano en verlas. A partir de entonces, muchos investigadores empezaron a pensar cómo afectaba eso a su campo de investigación: los químicos, los filósofos, los matemáticos.... Los matemáticos empezaron entonces a intentar trasladar ese descubrimiento a números. Basándose en el funcionamiento de las neuronas, Alan Turing diseña el test de Turing en 1950, como pionero de la inteligencia artificial".

placeholder Retrato de Alan Turing, con 16 años. (Wikipedia)
Retrato de Alan Turing, con 16 años. (Wikipedia)

"En 2012, de pronto le podíamos decir a un ordenador que cambiase una imagen por otra. Hay muchas herramientas que entrenan una máquina para convertir una imagen en otra, para lo que hacen falta miles de imágenes", prosigue. "Si esta tecnología hubiera llegado hace años pero sin existir el big data no funcionaría igual. Los dos mayores potenciadores son TensorFlow, de Google y Pytorch, de Facebook. Son los primeros interesados en que esto se desarrolle, así que han liberado sus propias herramientas para que la gente lo utilice, avance y luego utilizar esa información para sus propios intereses. Con ellas, puedes construir con apenas unas líneas de código un cerebro electrónico de tales dimensiones y tales características. Una vez que tienes eso, la magia es que ya no necesitas programar".

La revolución llegó con la aparición del deeplearning. Es decir, una nueva forma de interpretar los datos que no puede entenderse a simple vista, ni ponerse en un gráfico, que requiere de millones de datos y que encuentra relaciones entre parámetros que nosotros no conocemos. "A partir de aquí se empezó a probar a que una máquina supiese distinguir entre gatos y perros en millones de fotografías", resume. "Se empezó a probar esto y con ciertos ajustes de matemáticas solucionó muy bien, un noventa y tanto de aciertos. Y esta es la herramienta que se utiliza para etiquetar el porno, por ejemplo. Si no puedes subir desnudos a Instagram es porque Mark Zuckerberg ha entrenado a una inteligencia artificial en la que ha puesto un millón de fotos de desnudos y un millón de no desnudos que lo que hace es mandar una señal al servicio de Instagram para detectar tetas y penes".

placeholder Una imagen de Robert De Niro en 'El irlandés'. (Netflix)
Una imagen de Robert De Niro en 'El irlandés'. (Netflix)

Pero aunque parezca mentira, el cine todavía no se ha aprovechazo de las posibilidades del deepfake. A pesar de que la reaparición de Leia en 'El ascenso de Skywalker' se promocionó como deepfake, en realidad es una reconstrucción en 3-D. "En el cine no se está utilizando. El cambio de cara de Leia se hizo con métodos tradicionales. Igual que la de Peter Cushing. Utilizaron dobles y lo típico que le ponen puntitos en la cara. Son técnicas bastante consolidadas, pero son carísimas y no quedan demasiado bien", matiza. "Con ‘El irlandés’ ocurre lo mismo. Eso es lo interesante. Que podía haber costado 10 veces menos si se hubiera hecho con esto. No lo utilizaron porque era demasiado nuevo. Ha mejorado mucho desde que empezó ‘El irlandés’ hasta que acabó. Si lo hiciesen ahora, quizás lo hubiesen hecho distinto". Pero, probablemente, a medida que se popularice la herramienta el cine descubrirá las ventajas de utilizar este método de alteración de vídeo frente a los anteriores. "A mí me están llamando ya de varios proyectos para utilizar el deepfake en cine".

En 2017, un usuario de Reddit compartió una serie de vídeos pornográficos protagonizados por algunas de las actrices de Hollywood más populares del momento, como Daisy Ridley, que estrenaba el remake de 'Asesinato en el Orient Express', y Scarlett Johansson, que protagonizaba la adaptación al cine de 'Ghost In The Shell'. En 2018, el expresidente de Estados Unidos Barack Obama apareció en un vídeo tildando a Donald Trump de "pedazo de mierda". En 2019, Jim Carrey sustituyó a Jack Nicholson en la versión original de 'El resplandor' de Stanley Kubrick. En realidad, ninguna de estas tres cosas ocurrieron. Pero ahí están las imágenes. Aquella pregunta de Groucho Marx de "¿A quién va usted a creer, a mí o a sus propios ojos?" nunca estuvo más huérfana de respuesta.

Noadex
El redactor recomienda