Facebook ha desarrollado un sistema para identificar videos manipulados
  1. Tecnología
  2. Novaceno
Batalla contra los ‘deepfakes’

Facebook ha desarrollado un sistema para identificar videos manipulados

Investigadores de Facebook han desarrollado un sistema para detectar imágenes modificadas con aplicaciones tipo ‘deepfake’. Una herramienta pensada para luchar contra la desinformación y el fraude en internet

placeholder Foto: Un Tom Cruise falso se hizo viral en Tik Tok (Chris Ume)
Un Tom Cruise falso se hizo viral en Tik Tok (Chris Ume)

Expertos en inteligencia artificial de Facebook y de la Universidad Estatal de Michigan han creado un algoritmo para desenmascarar a otro algoritmo. Su nuevo sistema pude detectar cuando un video o una imagen han sido manipulados utilizando tecnología de inteligencia artificial tipo ‘deepfakes’. Una herramienta muy útil en la lucha contra la desinformación y el fraude en internet.

Foto: El nuevo material ofrece visión nocturna gracias a una matriz de nanocristales (Jamie Kidston/Australian National University)

Los ‘deepfakes’ son algoritmos que modifican el rostro de la persona que sale en un video o una foto y la cambian por otra para crear un evento que nunca ha existido en la realidad. La tecnología ha avanzado mucho y hoy en día es casi imposible distinguir las imágenes ‘fake’ de las reales. En general se utilizan con fines inofensivos como hacer que un Tom Cruise falso salga el moñas en Tik Tok como si fuera de verdad o para hacer que Jon Snow pida perdón por el decepcionante final de Juego de Tronos.

Aunque también tienen un lado oscuro muy peligroso. Hasta ahora hemos visto los rostros de las actrices de Hollywood aparecer en videos porno o a chicas acosadas en el instituto porque se han distribuido videos falsos sobre ellas. Pero, teniendo en cuenta la calidad que se consigue en la actualidad y que la tecnología avanza exponencialmente, puede que acabemos viendo imágenes modificadas digitalmente que sean tan realistas que pongan en peligro la seguridad nacional de un pais. Por eso no es de extrañar que una de las instituciones que ha financiando este proyecto sea DARPA, la Agencia de Proyectos de Investigación Avanzada de Defensa de los Estados Unidos.

Un 'deepfake' de Obama creado por el cómico Jordan Peele

Cómo funciona el detector de ‘deepfakes’

Es complicado rastrear el origen de este tipo de imágenes. Por lo general se cuelgan en la red y van pasando de un usuario a otro hasta que se pierde su rastro. Así que los investigadores han creado un método que toma como punto de partida las propias imágenes y a partir de ahí intenta descubrir qué algoritmo se ha utilizado para crearlas.

"Nuestro método de ingeniería inversa se basa en descubrir los patrones únicos que hay detrás del modelo de inteligencia artificial utilizado para generar una sola imagen de deepfake", afirma Tal Hassner, investigador de Facebook.

Foto: El Tom Cruise 'deep fake' que se ha hecho viral en TikTok. (DeepTomCruise)

Según explican los investigadores, el proceso comienza ejecutando una imagen ‘deepfake’ a través de una red de estimación de huellas digitales (FEN) que revela las marcas que el algoritmo ha ido dejando durante su creación. Una vez identificadas esas huellas se comparan con los distintos modelos generativos de ‘deepfake’ capaces de crear estas imágenes.

“Piensa en un modelo generativo como un tipo de coche y en sus hiperparámetros como sus diversos componentes específicos del motor”, explican los investigadores. “Diferentes coches pueden parecer similares, pero bajo el capó pueden tener motores muy diferentes con componentes muy distintos. Nuestra técnica de ingeniería inversa es algo así como reconocer los componentes de un coche basándonos en su sonido, aunque se trate de un coche nuevo del que nunca hayamos oído hablar”.

Foto: Animadora de la NCAA (Reuters)

Para probar su nuevo sistema, los investigadores de la Universidad Estatal de Michigan reunieron 100.000 imágenes sintéticas generadas a partir de 100 modelos generativos abiertos al público. Además adaptaron el sistema para poder detectar imágenes creadas por otros algoritmos que no estén ocultos.

Según explican los investigadores, los resultados muestran que su enfoque supera a los modelos de detección anteriores. Además se puede usar tanto para la detección de ‘deepfakes’ como para la saber con exactitud el algoritmo que se ha utilizado para generarlos.

Foto: Mueve la mano como un Jedi para pagar y que te dejen salir del súper (Amazon)

“Este trabajo proporcionará a los investigadores y profesionales herramientas para investigar mejor los incidentes de desinformación coordinada mediante deepfakes, además de abrir nuevas vías de investigación en el futuro”, aseguran los investigadores de Facebook. No está mal que la compañía se ponga las pilas en este campo, Facebook es uno de los principales coladeros de ‘fake news’ en el mundo y, a no ser que empiecen a implementar este tipo de sistemas con urgencia, tiene pinta de que va a seguir siéndolo durante muchos años.

Inteligencia Artificial Tendencias de futuro
El redactor recomienda