Nightshade: así “envenenan” los artistas a la IA para preservar sus derechos de autor

• El autor de 'Juego de Tronos' denuncia a ChatGPT: “es un robo sistemático”
• Taylor Swift, “furiosa” por las imágenes pornográficas de IA que se han viralizado en X

A finales de diciembre de 2023, el prestigioso diario estadounidense The New York Times presentó una demanda contra Microsoft y OpenAI. ¿El motivo? Supuestamente, ambas compañías habían usado sin permiso sus artículos para entrenar a ChatGPT, el sistema de inteligencia artificial generativa más popular del mundo. Sin duda, se trata de un proceso judicial que puede marcar un antes y un después en el desarrollo de esta tecnología.

A pesar de ello, no todo el mundo tiene el poder suficiente como para emprender este tipo de acciones legales contra dos de las mayores big tech del mundo. Sin embargo, sí que pueden poner en práctica otros trucos destinados a ponérselo difícil a la IA. El mejor ejemplo de ello lo ofrece Nightshade, un programa informático desarrollado por investigadores de ciencias de la computación expertos en criptografía de la Universidad de Chicago.

La elección del nombre Nightshade no es casualidad. Es más, está directamente relacionado con la forma de operar del programa. Hace referencia a una planta venenosa conocida como Deadly Nightshade, aunque en español es más conocida como Belladonna. La ingesta de sus frutos, que recuerdan a las cerezas, es potencialmente mortal. Según sus creadores, esto es justo lo que hace su software: envenenar a la IA.

¿Cómo funciona Nightshade?

Como asegura Shawn Shan, autor principal del estudio, Nightshade funciona de manera muy parecida a Glaze, otro programa informático destinado a preservar los derechos de autor frente al entrenamiento de los sistemas de IA. Sin embargo, la función de Glaze es defender el contenido frente a ChatGPT, DALL-E o cualquier otra herramienta similar, mientras que el propósito de Nightshade es boicotearlas.

TE PUEDE INTERESAR

El narrador de 'Harry Potter' advierte sobre los peligros de la IA: no te fíes de tus oídos

R. Badillo

En concreto, lo que hace Nightshade es aplicar una capa de código a la obra del artista que no genera efectos visuales para el usuario (no es una marca de agua) que la contempla a través de la pantalla de su ordenador o teléfono móvil. Sin embargo, los sistemas de entrenamiento de IA sí que son capaces de apreciarla. La cuestión realmente relevante es que resulta capaz de engañarlos de forma muy efectiva.

Los creadores del programa han tratado de ilustrar su funcionamiento. En concreto, invitan al usuario a visualizar una imagen en la que aparezca una vaca pastando. Al usar Nightshade, la IA no ve al animal alimentándose, sino un bolso de cuero. Así que, cuando trata de crear un contenido inspirado en él, ofrece resultados inconexos y faltos de sentido. Por ejemplo, la figura de una vaca con asas y cremalleras.

Nightshade entrena mal a la IA, lo que es un problema para sus desarrolladores

Este es el modo en el que Nightshade “envenena” a la IA. Es cierto que el programa todavía se encuentra en una fase muy preliminar de desarrollo, pero ha cosechado una gran acogida. De hecho, según Ben Zhao, uno de los profesores que ha dirigido el proyecto, se han registrado 250.000 descargas en los primeros cinco días posteriores al lanzamiento. Al respecto, el investigador ha comentado que “esperaba que hubiera bastante entusiasmo, pero la demanda ha superado con creces nuestras previsiones”.