He cenado gratis engañando a un restaurante con IA. El fraude 'low-cost' que estafa millones

Es jueves por la noche. Tengo hambre y he decidido que hoy no quiero cocinar. Abro Uber Eats y Glovo y echo un vistazo a las ofertas, pero no hay nada que me emocione, así que voy a lo seguro: hamburguesa. Pido en uno de mis sitios favoritos, muy hecha, salsa, patatas y a esperar. 25 minutos después, suena el timbre. El repartidor de Uber Eats me entrega el pedido. Le doy un par de bocados a la hamburguesa, la temperatura es perfecta y el punto de la carne es justo el que pedí, pero necesito comprobar una cosa. Por lo visto, cada vez más gente está retocando todo tipo de productos con inteligencia artificial para inventarse un problema inexistente y obtener así un reembolso rápido y fraudulento. Está ocurriendo con casi todo, desde comida a domicilio a abollones en el coche. Las aseguradoras dicen estar sufriendo una auténtica avalancha de este nuevo tipo de estafa de baja intensidad. ¿Será tan sencillo como dicen?

Con mi cena a medias, saco el móvil, le hago un par de fotos y las envío al ordenador. Abro la nueva función de IA generativa de Photoshop y selecciono la carne en mitad del pan. "Simular textura de hamburguesa muy poco hecha", tecleo en una cajita, como si fuera ChatGPT. Es la primera vez que uso Photoshop en mi vida, de hecho me he descargado una versión gratuita de prueba. Hasta ahora, si querías aprender a manejarlo, tenías que dedicarle horas y horas para conocer sus entresijos. Hoy, basta con subir una foto y pedirle a su IA que la manipule para obtener un resultado hiperrealista como ha hecho con mi pedido. En un segundo, recrea carne poco hecha, tan roja y jugosa como la de verdad.

Abro la app de Uber Eats y arranco una incidencia: "He pedido una hamburguesa muy hecha y me ha llegado casi cruda", me quejo. Relleno el formulario y me piden enviar una foto. No me deja subirla desde la galería de imágenes del móvil, el sistema me obliga a hacerla sobre la marcha. Es el único paso en el que Uber intenta ponértelo difícil, justo para evitar que envíes fotos almacenadas ya retocadas. El truco es sencillo: muestro la foto en otro teléfono, fotografío la pantalla con el mío, con cuidado para que no aparezcan reflejos, y listo. "Te hemos reembolsado 17,49 €. Sentimos que tu pedido tuviera un problema". En total, me ha llevado menos de 3 minutos engañar a Uber Eats y al restaurante detrás con un problema inventado y una foto falsa retocada en segundos con IA.

Este fenómeno, que ya tiene incluso nombre en inglés, shallowfake, algo así como "engaño superficial", en referencia a los retoques mínimos que son necesarios para manipular una imagen y que parezca real, está empezando a suponer un dolor de cabeza para miles de empresas. Básicamente, cualquier firma que venda online a consumidores y tenga un proceso de reclamación o reembolso que implique el envío de fotos o vídeos por parte del cliente para probar que el producto recibido es defectuoso, es susceptible de sufrirlo.

TE PUEDE INTERESAR

Esta IA parece salida de 'Her' y es brutal. Le pedimos a tres expertos que hablen con ella

Manuel Ángel Méndez

Consultado al respecto, Uber Eats resta importancia al incidente. "Hemos detectado un ligero incremento del fraude desde principios de 2024. Esto no significa necesariamente que haya más casos, sino que nuestras herramientas de detección y prevención están funcionando cada vez mejor", asegura un portavoz a este diario, quien reconoce, a la vez, que se han visto obligados a empezar a invertir en IA para detectar el fraude creciente. "Si identificamos reclamaciones repetitivas o inconsistentes, el sistema puede etiquetar al usuario como potencialmente fraudulento y bloquear el reembolso". El problema es que el engaño lo acaba pagando muchas veces el restaurante: Uber Eats se lava las manos en los casos de fraude no detectado en los que, como el mío, el plato está supuestamente mal preparado y le pasa el cargo al local.

La popularización y sencillez extrema de las nuevas herramientas de IA hace que esta problemática empiece a afectar de lleno a múltiples sectores. En Reino Unido, por ejemplo, la empresa Pets at Home, una cadena de cuidados a mascotas y venta de productos asociados, con medio millar de tiendas físicas en el país, se vio forzada a empezar a usar la IA de Microsoft (Copilot) para analizar una cantidad inmanejable de documentos y fotos de clientes en devoluciones potencialmente fraudulentas. Nadie es inmune. Desde Amazon a los supermercados 'online', pasando por surrealistas accidentes domésticos que parecen salidos de China.

"Mi padre tuvo el otro día un altercado con una señora que le acusaba de que su perro le había mordido. Él vio in situ, con sus propios ojos, que no había herida, era inexistente. Horas después, la señora le mandó una foto con una herida enorme en la pierna, pidiéndole mucho dinero como indemnización. Solo había dos opciones: era una foto antigua o estaba generada con IA", explica una persona que prefiere mantener su anonimato. "La tendencia es real y va en aumento. La IA está poniendo al alcance de cualquier persona que no tiene ni idea de tecnología llevar esta picaresca a todos los niveles", explica Alberto Palomar, jefe de IA generativa especializado en fraude en la tecnológica Globant. Palomar señala a las empresas que más están sufriendo esta problemática, las aseguradoras.

Allianz reconoció recientemente en Reino Unido que había visto un incremento del 300% desde el 2021 en el uso de aplicaciones de IA para retocar documentos, fotos y vídeos. "Tiene toda la pinta de que se va a convertir en el último gran fraude en llegar al sector seguros", aseguraba en un comunicado. "Es una de las amenazas más crecientes, señalaba su rival Zúrich, quien también confirmó un aumento considerable de reclamaciones falsificadas con IA.

"No puedo estar más de acuerdo. Es una tendencia alarmante. Siempre se han falsificado documentos, de toda la vida. El problema ahora es la facilidad con la que lo puedes hacer y que estas herramientas están al alcance de todo el mundo. Eso eleva el volumen a cotas que no habíamos visto hasta ahora. Le puedes pedir a la IA que te haga un rasguño al coche o que te modifique la factura de un reparador. Es imposible cazarlo a simple vista, así que necesitas también usar tecnología para identificarlo", explica a El Confidencial Arturo López-Linares, director de siniestros en AXA España.

Esta aseguradora recibe cada día entre 25.000 y 30.000 documentos relacionados con la gestión de siniestros. Y cada vez están detectando más manipulaciones digitales, lo que les ha forzado a invertir en IA y machine learning para automatizar la detección. "Hemos pasado de identificar solo el 3% de casos de fraude con métodos digitales hace unos años al 30% en la actualidad. Es verdad que ha subido el porcentaje de gente dispuesta a defraudar, ahora se sitúa en algo más del 2%, en absoluto es masivo, pero ya supone millones de euros y la IA está jugando un papel fundamental", señala López-Linares.

Las aseguradoras no son las únicas que sufren este repunte en las falsificaciones. La Agencia Tributaria se enfrenta a un aumento potencial del fraude en la emisión de facturas falsas por parte de los 3,4 millones de autónomos dados de alta y de miles de empresas. "No solo es que la puedas generar, es que puedes pedirle a una IA que te calcule la cantidad aconsejable a defraudar según tu facturación anual para que Hacienda no te pille", explica Palomar.

"La Agencia Tributaria está en una fase temprana de adopción de la IA. Pero van a tener que meter más recursos para detectar estos fraudes".

Desde la Agencia Tributaria, de momento, ven el peligro desde la barrera. "El IVA se lleva falseando toda la vida, no es nada nuevo, la veracidad que le damos a las facturas es la justa y necesaria. Hay mucha facturación falsa, la cotejamos, hacemos cruces con muchas fuentes de información que nos permiten comprobar que una factura no es real", explica a este diario una alta funcionaria de la Agencia Tributaria especializada en fraude. Pero, si cada vez más personas tienen a mano herramientas sencillas de IA para defraudar pequeñas cantidades, ¿no temen que el volumen total defraudado aumente? ¿No va a ser eso un reto para Hacienda? "Podría ser. No lo vemos ahora de forma inmediata, pero tal vez en el futuro. Tendremos que estar vigilantes".

Especialistas como Alberto Palomar señalan que, aunque no vean la amenaza hoy, Hacienda será uno de los organismos más impactados por esta tendencia. "Ahora la Agencia Tributaria está en una fase temprana de adopción de la IA. Pero en cuanto estos fraudes se popularicen todavía más, van a tener que meter más recursos para detectarlos", señala.

Cazar este tipo de estafas de 'baja intensidad' es posible, pero muy caro. "Cada vez que haces una foto se registran decenas de metadatos relativos al dispositivo, la geolocalización, a las características de la imagen, etc. Si la modificas, se modifican algunos de esos metadatos, por lo que es sencillo saber si ha sido manipulada o no", explica Palomar. "Por supuesto, también puedes editar esos metadatos, pero hay software avanzado de análisis de imagen, que rastrea mapas de calor y zonas con patrones inusuales que permiten cazar fakes. El problema es que ese software es bastante caro. Lo usan grandes empresas, pero las pymes no se lo pueden permitir, son las más vulnerables a esta nueva tendencia".

La prueba de que el sistema está aún verde para lidiar con la nueva oleada de fraudes 'low-cost' es la respuesta de Uber Eats cuando les pedí que me hicieran el cargo completo por el pedido. Soy periodista, pero tampoco era cuestión de cenar por la cara. "Me temo que eso va a ser complicado, no lo tenemos contemplado en el sistema", reconoce un portavoz. El cargo completo nunca llegó. "Es lo que les ocurre a muchas empresas, procesar devoluciones o invertir para cazar fraude les sale más caro que asumir el coste del mismo", dice Palomar. Quizás no por mucho tiempo.