Esta herramienta te permite saber si un archivo ha sido creado por inteligencia artificial

La inteligencia artificial tiene un doble reverso. Por un lado, casi todos hemos explorado alguna vez una de estas herramientas para hacerle una pregunta o pedirle que nos haga un texto. Si nuestro nivel de curiosidad ha subido, de hecho, incluso le habremos pedido una foto o hasta un vídeo. Hasta aquí, mero entretenimiento y exploración de posibles aplicaciones en el ámbito profesional.

Sin embargo, no podemos obviar que, en otros casos, la IA no se usa con fines precisamente benévolos. En una época en que la desinformación forma parte del campo de juego, los deepfakes de audio o vídeo, con herramientas de IA simulando ser quienes no son para crear engaños y confusiones, conforman la necesidad de que tanto las empresas como los particulares sepamos diferenciar entre un contenido real y otro falso.

Tecnología para detectar contenido falso

Precisamente para luchar contra estas manipulaciones, Telefónica Innovación Digital ha lanzado TU VerifAI Beta, una solución que permite detectar contenidos generados o modificados por inteligencia artificial. Ya sea en formato de vídeo, imagen o audio, esta herramienta recurre a modelos de IA avanzados para detectar posibles deepfakes.

La herramienta tiene dos versiones: la gratuita y la de pago. La gratuita permite a cualquier usuario realizar un análisis forense digital para saber si una imagen o un audio son falsos. La de pago, además, incluye el análisis de vídeo.

De manera paralela, VerifAI Beta PRO es una versión orientada a empresas que presenta diversas ventajas respecto a la versión pública:

• Agrega múltiples motores de IA, tanto propios como de terceros, mejorando la capacidad de análisis de los contenidos.
• Permite incluir motores propios del cliente.
• El resultado del análisis forense digital incluye más detalles.

Además, la versión PRO cuenta con DeepFake Detector, una funcionalidad extra con análisis en tiempo real. Esto permite, por ejemplo, analizar un stream de vídeo en el momento para determinar si es un deepfake. Esta aplicación es especialmente útil en el contexto de una videollamada, ya que el usuario recibe una alerta si un participante de dicha llamada está suplantando la identidad de otra persona. También dispone de una consola que permite a los equipos de IT o seguridad monitorizar este tipo de ataques.

El análisis en tiempo real utiliza varios modelos de IA, entre ellos Head Pose, que analiza la posición de la cabeza permitiendo detectar comportamientos anómalos típicos de técnicas de deepfaking. Este modelo se ha desarrollado internamente desde Telefónica Innovación Digital y cuenta con una patente propia.

Actualmente, desde Telefónica están trabajando en la apificación del análisis en tiempo real. Esto abrirá la puerta a la integración en procesos de Know Your Costumer (KYC), como por ejemplo un onboarding digital de un nuevo cliente o de alguien que quiere abrir una cuenta de banco online.

En un futuro, VerifAI integrará otras funciones relacionadas con la detección de contenidos generados con IA, por ejemplo, el análisis de audios de WhatsApp para comprobar si la persona que lo envía es quien dice ser; o el análisis de llamadas a fijo, para prevenir posibles estafas derivadas de la suplantación de identidad.