Dos años y medio de cárcel por crear imágenes de abuso con inteligencia artificial

Un ciudadano de Corea del Sur de 40 años ha sido condenado a dos años y medio de cárcel por recrear imágenes de niños en situación de abuso sexual usando modelos generativos de inteligencia artificial.

TE PUEDE INTERESAR

Lo que la humanidad necesita para ganar la carrera cósmica de las civilizaciones

Avi Loeb

Según apunta la CNN, el detenido, cuya identidad se mantiene en secreto, creó unas 360 imágenes durante el pasado abril. La policía surcoreana ha confiscado todas las fotos y ha comprobado que no se han llegado a distribuir, según informa el Tribunal de Distrito de Busan, una ciudad situada al sur de la península de Corea, y la Fiscalía del distrito.

Los fiscales del caso argumentaron durante el juicio que la definición de ‘material de explotación sexual’ debe incluir también comportamientos sexuales de "humanos virtuales" y no sólo la aparición de niños reales. Algo que acabó refrendando la sentencia que entendió que dentro de los contenidos sexualmente abusivos se incluyen también imágenes lo suficientemente realistas como para parecerse a niños y menores que pudieran existir de verdad, según explica la fiscalía.

Usar IAs para cometer delitos

La tecnología ‘Deepfake’ se ha usado desde su creación para hacer videos pornográficos de personas sin su consentimiento. Hace tiempo que estas recreaciones virtuales son imposibles de distinguir de la realidad y su potencial para cometer delitos ha ido creciendo exponencialmente, al ritmo de la propia tecnología.

Según un estudio publicado el año pasado “los rostros generados sintéticamente no solo son fotorrealistas, sino que son casi indistinguibles de los reales y se consideran más fiables” para la mayoría de personas. Los investigadores detrás de este trabajo advierten de que este tipo de tecnologías han llegado a un punto de realismo que las hace extremadamente peligrosas —pueden generar imágenes que propaguen la desinformación o actividades como el fraude y las extorsiones— y piden que cese por completo su desarrollo.

Ya hemos visto varios casos en los que se han utilizado herramientas de inteligencia artificial para cometer delitos. El último sucedió aquí mismo, en Almendralejo, una localidad de Badajoz, hace apenas dos semanas. Los delincuentes usaron fotos falsas de menores desnudas creadas por una IA para extorsionar a la familia de una de ellas.

La IA no solo se está usando para generar imágenes falsas. El pasado mes de marzo contábamos aquí como alguien utilizó estos modelos generativos para clonar la voz de una persona y hacerse pasar por ella para estafar a su familia. Ruth Card, una mujer candiense de 73 años recibió una llamada de alguien que sonaba como su nieto Brandon y que le decía que estaba detenido por la policía y necesitaba dinero para pagar la fianza. Card y su marido fueron al banco y sacaron el máximo permitido en un día, 3.000 dólares canadienses (poco más de 2.000 euros). Cuando fueron a otra sucursal para intentar sacar más, el director les llamó a su despacho y les alertó de que podía tratarse de un fraude similar a otros que estaban sucediendo recientemente.

El fin de la realidad

El caso de Corea del Sur es, según la justicia del país asiático, un tipo de delito que equipara lo que sucede en el mundo virtual con lo que pasa en el real. Una circunstancia a la que nos enfrentamos por primera vez y cuya respuesta también va en línea con lo que se propone desde Europa o el Reino Unido.

A pesar de estos ajustes legislativos, sigue siendo muy difícil detectar qué contenido está generado por una inteligencia artificial y cuál es real. Cómo ya contamos en el episodio de Control Z: El fin de la Realidad (que pueden ver sobre estas líneas), la industria no puede regularse por sí misma y es fundamental que los países puedan ir adaptando sus legislaciones a los rápidos cambios en esta tecnología.