¿Imágenes generadas con IA? OpenAI trabaja en nuevas formas para detectarlas

• Un Photoshop 'dopado' con IA: así se pueden editar imágenes de DALL-E con ChatGPT
• Estas imágenes las ha creado Dall-E 3 y son casi imposibles de distinguir de la realidad

Que si las imágenes generadas con IA son arte o no son arte. Que si los derechos de la imagen pertenecen a quien ha escrito el prompt o no. Que si es lícito o no utilizar el chatbot para generar nuestros textos. Son muchas las peliagudas cuestiones que nos plantea el uso de la IA, sobre todo a nivel profesional, pero sean cuales sean las respuestas, algo está claro: las IAs no dejan indiferente a nadie.

De lo que no hay duda es que deberíamos saber si una imagen o un texto han sido generados por una inteligencia artificial o no. Como se suele decir, una herramienta no es mala ni buena, sino que depende del uso que se le dé. ChatGPT no está pensado para que un estudiante delegue la tarea a la aplicación, ni para que un ilustrador engrose su portafolio con imágenes que no ha creado él.

TE PUEDE INTERESAR

Así puedes crear los virales carteles de Pixar/Disney con esta inteligencia artificial

Fátima Garay

OpenAI es consciente de los posibles usos fraudulentos que se pueden llevar a cabo con sus aplicaciones, tanto con ChatGPT como con DALL-E, el famoso generador de imágenes. Y por eso está trabajando en nuevas y más sofisticadas maneras para detectar si una imagen está generada por una IA o no.

OpenAI agrega marcas de agua a las imágenes de DALL-E

Las marcas de agua son pequeñas señales que se utilizan para saber cuál es el origen de una imagen. En ocasiones son visibles, como ocurre con muchas de las previews de ilustraciones de pago que encontramos por internet. En este caso se trata de señales invisibles, difíciles de detectar y manipular, si no es por la propia IA.

La empresa también comenzó a incorporar marcas de agua a los clips de Voice Engine. Por otro lado, nos aseguran que la IA puede reconocer imágenes creadas por ella misma con una fiabilidad del 90-95%. Alcanza ese nivel de precisión aunque las imágenes hayan sido recortadas, comprimidas o modificadas ligeramente. La precisión es mucho menor cuando se trata de una imagen generada con otro motor, por ejemplo, Midjourney, quedándose en un 5-10% de éxito.

En cualquier caso, se trata de un paso más en el camino para regular el uso fraudulento de las inteligencias artificiales, y es que la empresa de Sam Altman forma parte de la Coalición de Procedencia y Autoridad de Contenido (C2PA), a la que también pertenecen Microsoft y Adobe.