La polémica está servida: ChatGPT abre sus puertas a contenido erótico

• No es lo que parece: lo que los sueños eróticos dicen sobre la realidad
• La revolución de las máquinas, también en el sexo: ser 'digisexual' ya no es tan raro

Somos humanos. Es decir, tenemos todas las características que incluye cualquier ser humano. Tenemos hambre, necesitamos relacionarnos con otras personas, sangramos cuando nos pinchan y tenemos deseo sexual. El arte es un medio de expresión y, como tal, explora todo el ámbito humano. Esto incluye el contenido erótico.

Pero de la expresión artística erótica, como puede ser un relato algo picante o una fotografía sugerente, a la pornografía, hay solo un paso. Si el contenido NSFW (por las siglas en inglés No Safe For Work) que incluye sexo explícito o violencia, es responsable éticamente o puede promover conductas indeseadas, es una cuestión que no vamos a tratar aquí. Lo que no podemos dudar es que existe.

TE PUEDE INTERESAR

Así funciona la nueva versión de ChatGPT que lo ve y oye todo a su alrededor

Pablo Rey

Si hay una herramienta que permita crear, siempre va a haber alguien que la va a utilizar para crear contenido erótico. Las inteligencias artificiales que generan imágenes no son una excepción. Actualmente, todo contenido erótico está prohibido por ChatGPT, la IA de OpenAI. “Lo siento, no puedo ayudar con eso” le responde ChatGPT a un usuario que le ha pedido: “escríbeme una historia erótica sobre dos personas teniendo sexo en un tren”.

Encontrando el margen en una delgada línea

Y es que se puede hacer un uso de las IAs para el cual no están pensadas, generando contenido para chantajear, extorsionar o acosar a alguien. Hablamos de los deepfake. Esta técnica consiste en alterar una imagen real, de modo que se puede ‘desnudar’ a una persona en una fotografía, o ponerle el rostro de otra persona a un vídeo pornográfico. Se trata de “una nueva forma de explotación y acoso sexual que se está propagando rápidamente en las escuelas” según el New York Times.

Por si fuera poco, hace poco asistimos a una importante polémica, ya que aparecieron unos desnudos falsos de Taylor Swift, generados por IA, en X. A raíz del incidente, Microsoft agregó nuevas salvaguardas a su IA de texto e imagen.

OpenAI ha publicado un documento hablando del tema. "Estamos explorando si podemos proporcionar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad", dice Joanne Jang en el mismo. “Habilitar deepfakes está fuera de discusión”.

¿Qué se podrá hacer?

"Hay casos creativos en los que el contenido relacionado con la sexualidad o la desnudez es importante para nuestros usuarios", continúa Jang. "Estamos explorando esto de manera que lo serviríamos en un contexto apropiado para la edad". La idea es permitir que los usuarios puedan crear contenido para adultos original, sin infringir las leyes y sin utilizar deepfake. Al fin y al cabo, la IA es una herramienta al servicio, a menudo, de la creatividad humana.

El problema es ver si realmente serán capaces de limitar las posibilidades de la IA para encontrar ese margen, ya que, si abres la puerta, aunque sea una rendija, tal vez puedan colarse los ciber acosadores.