Es noticia
El primer timo hecho por una persona falsa generada por IA en una videoconferencia
  1. Tecnología
  2. Novaceno
El lado oscuro de la IA

El primer timo hecho por una persona falsa generada por IA en una videoconferencia

Un estafador ha usado inteligencia artificial para hacerse pasar por otra persona en una videollamada y sustraer millones de yuanes a un empresario, según informan los medios chinos

Foto: Foto: Reuters.
Foto: Reuters.

Un empresario chino es la nueva víctima de una estafa que usa la inteligencia artificial para suplantar la personalidad de alguien cercano. El estafador realizó una videollamada suplantando tanto el aspecto como la voz de un amigo íntimo de la víctima para sustraerle 4,3 millones de yuanes, unos 567.000 euros.

Foto: Ilustración de los caminos cósmicos que emiten radiación térmica distribuidos en el plano galáctico.

La videollamada se realizó a través de la popular aplicación Wechat el 20 de abril pasado, según apuntan las autoridades policiales de la ciudad de Fuzhou, en el sureste de China. El estafador se hizo pasar por un amigo de la víctima —un empresario tecnológico apellidado Guo— que necesitaba realizar la transferencia de 4,3 millones de yuanes desde una cuenta de banco para poder pagar la garantía de un concurso público en el que supuestamente quería participar.

"En ese momento, comprobé la cara y la voz de la persona que me llamaba por vídeo, así que bajé la guardia", afirma el Guo en declaraciones recogidas por Global Times.

Guo le dio su número de cuenta bancaria a su amigo y este le envió una captura de pantalla a través de Wechat donde se veía un registro de pago falso a su nombre por una cantidad de dinero equivalente a la que le había prestado. Seguidamente, Guo hizo dos transferencias que sumaban el total acordado sin comprobar previamente el ingreso recibido.

El empresario se dio cuenta de la estafa tras contactar por mensaje con su amigo y comprobar que este no tenía conocimiento de la transacción. En ese momento, Guo alertó a la policía, que procedió a bloquear rápidamente la operación, impidiendo la transferencia de 3,36 millones de yuanes (cerca de 475.000 euros). Según Global Times, continúan las investigaciones para recuperar el resto del dinero, aunque no hay noticias de la identidad de los estafadores.

El lado oscuro de la IA y cómo evitarlo

Las autoridades chinas alertan del aumento de casos de estafas que utilizan herramientas de inteligencia artificial generativa para suplantar personas, algo que ya vimos hace tiempo en EEUU y que parece que se extiende rápidamente por todo el globo. Hasta ahora, se trataba de llamadas telefónicas que usaban inteligencia artificial para imitar la voz de personas conocidas, pero este nuevo caso de la videollamada muestra que los delincuentes ya son capaces de modificar tanto la voz como la imagen en tiempo real.

Este tipo de fraudes no son nuevos. Siempre ha habido estafadores que se han hecho pasar por otras personas para engañar a los incautos, pero, para llevar a cabo estos timos, hacía falta un cierto talento para la imitación que no es tan común. Ahora, con la llegada de la IA generativa ya no hace falta tener ningún talento especial.

Como contamos en el episodio de Control Z: El Fin de la Realidad, ahora mismo la tecnología va por delante de las soluciones. IA como ChatGPT, Dall-e o Stable Diffusion son solo la punta de lanza de una gran cantidad de inteligencias artificiales generativas que han surgido en los últimos meses.

La compañía Metaphysic primero asombró al mundo con sus vídeos deepfake de Tom Cruise, luego dejó a los fans alucinando con la nueva gira de ABBA, resucitando a un joven Elvis en el programa de America's Got Talent o quitándole décadas a Harrison Ford, cómo se puede ver en el tráiler de la última de Indiana Jones. Su CEO, Tom Graham, realizó una demostración de su tecnología convirtiéndose, en un vídeo transmitido en tiempo real, en el jefazo de TED que dejó a la audiencia alucinada. Su poder creativo es enorme, pero también tienen un lado perverso que estamos empezando a ver.

Los expertos que consultamos para escribir el episodio nos contaron que hay varios caminos para evitar este tipo de fraudes. En concreto, apuntaron a tres. El primero, y más importante, es la creación de estándares de certificación criptográfica a nivel mundial para autenticar cualquier contenido capturado por cámaras y micrófonos digitales. La segunda es lanzar programas de educación para que el público comprenda el alcance y los peligros de la inteligencia artificial generativa. Y, tercero, que los gobiernos de todo el mundo colaboren con la comunidad científica para diseñar una legislación que proteja los derechos individuales y ponga sanciones penales al abuso de la tecnología.

Un empresario chino es la nueva víctima de una estafa que usa la inteligencia artificial para suplantar la personalidad de alguien cercano. El estafador realizó una videollamada suplantando tanto el aspecto como la voz de un amigo íntimo de la víctima para sustraerle 4,3 millones de yuanes, unos 567.000 euros.

Inteligencia Artificial Tendencias de futuro