Carga Rápida | ¿Hay alguna manera de frenar los 'deepfakes' sexuales?

Este es un fragmento de la nueva entrega de la newsletter Carga Rápida, que se envía cada jueves por la mañana. Si quieres recibirla, solo tienes que hacer clic aquí o en el módulo que aparece a continuación:

En la industria tecnológica se dice que, cuando alguien dispara primero, tiene bastantes posibilidades de llevarse gran parte del pastel. Esta norma no escrita hace que las prisas sean una tónica habitual. La inteligencia artificial generativa es el último ejemplo de ello. Las empresas involucradas en esta carrera por la necesidad de seguir creciendo y mejorar sus sistemas no dudaron en poner sus desarrollos en manos de millones de personas, aunque esta revolución estuviese verde en muchos aspectos más allá de lo estrictamente técnico.

Aunque esta tecnología ha aportado cosas impresionantes, también han aparecido problemas y desafíos. Una buena muestra de esto es que firmas como Google están como locas intentando crear una marca de agua que identifique los contenidos creados por esta vía. Otro buen ejemplo es que Microsoft pagará los abogados y las multas de los clientes que sean acusados de plagio por utilizar estas herramientas. Pero hay más. El último elefante en la habitación de la IA se ha visto, una vez más, en Almendralejo. ¿Qué ha pasado?

• Deepfakes en el instituto. En el municipio extremeño se han presentado más de 20 denuncias después de que distribuyesen fotos de chicas del pueblo manipuladas con IA en varios grupos de WhatsApp. Utilizaban las caras de las jóvenes para crear falsos desnudos. Los identificados tienen entre 12 y 14 años.
• Da igual tijeras, Paint o Stable Diffusion. Según diversos expertos jurídicos, lo que importa es el delito en sí, no la herramienta tecnológica que se utilice para ello, y ven prematuro un cambio legal.

Este caso es uno más de una lista (que ya empieza a ser considerable, por cierto) donde se utilizan plataformas de inteligencia artificial generativa para crear deepfakes pornográficos. La influencer Laura Escanes o Rosalía son algunas de las que han sido víctimas de acciones similares. Ya hay algunas sentencias que han apuntado que, aunque el cuerpo no sea real, este tipo de montajes atenta contra la intimidad de las protagonistas y sus autores deben ser castigados.