ClothOff, la 'app' que investiga la Policía por difundir fotos de menores “desnudas”

• La Policía investiga fotos de menores “desnudas” creadas por inteligencia artificial
• El narrador de 'Harry Potter' advierte de los peligros de la IA: no te fíes de tus oídos

La inteligencia artificial ya está presente en nuestra vida cotidiana. En la mayoría de los casos, de forma positiva, ya que es capaz de realizar multitud de tareas de forma automática (generar texto y recomendaciones, crear logotipos y banners publicitarios, etc.). Sin embargo, también tiene un lado oscuro que puede llegar a infringir la ley. El ejemplo más reciente de ello es ClothOff, la app utilizada por los jóvenes de Almendralejo (Badajoz) para “desnudar” a varias menores de la zona.

El eslogan de la aplicación lo deja bien claro: Undress girls for free o, lo que es lo mismo, “Desnuda a chicas gratis”. Eso sí, no solo funciona con mujeres, ya que los hombres también pueden ser víctimas de este programa de inteligencia artificial. El único requisito, como indica en su tutorial, es que la persona aparezca sola en la imagen y que no lleve ropa de abrigo. La pose en la que se muestre no es una cuestión relevante a la hora de realizar el montaje.

Eso sí, utilizar ClothOff tiene un coste. Por cada “desnudo” el usuario debe gastar una moneda virtual, la cual recibe el nombre de token. La app concede dos a cada usuario al realizar el proceso de registro. Una vez gastados, deberá esperar tres días para obtener más o, en su defecto, invitar a amigos o pagar. El precio estándar es de dos dólares por cuatro tokens, pero es posible comprar hasta 1.600 de una tacada por 500 dólares.

La empresa elude cualquier responsabilidad

Si hay algo que se repite una y otra vez tanto en la web de ClothOff como en los términos y condiciones del servicio es el descargo de responsabilidad por parte de la empresa que hay detrás de la app. De hecho, el documento está repleto de frases como “usted es el único responsable de las imágenes generadas” o “usted es responsable de no usar la aplicación para fines ilegales”. También se reserva el derecho a eliminar cualquier montaje que incumpla estos preceptos, lo cual es evidente que no ha sucedido en este caso.

TE PUEDE INTERESAR

"For the glory of my mother". Qué hay tras la IA que dobla vídeos y está desatando la locura

Mario Escribano

Presumiblemente, en el caso de las menores de Almendralejo se ha atentado contra el derecho a la intimidad personal, al honor y a la propia imagen, que está recogido en el artículo 18.1 de la Constitución Española y protegido en el Código Penal. Además, el problema no está solo en que los autores realizasen la falsificación, sino también en que la difundieron a través de grupos de WhatsApp sin autorización.

Los responsables de ClothOff aseguran que la aplicación fue lanzada al mercado el pasado mes de julio de 2023 tras dos años de trabajo de desarrollo. Cuenta con un perfil en X (Twitter) con 3.000 seguidores. Pero esto no es nada comparado con su canal de Telegram, que ronda los 750.000 usuarios adscritos. A través de él informan de las últimas novedades y “mejoras” integradas.

Según la empresa, no es responsable del uso que los usuarios hagan de los montajes

Según informaron a principios de verano, estiman que 30.000 personas utilizan ClothOff cada día. Es más, hablan de un crecimiento del 30 % diario y solicitan ayuda a la comunidad para poder ampliar la aplicación y traducirla a otros idiomas. Unas cifras preocupantes si se tiene en cuenta el potencial dañino que entraña su uso.