Bruselas abre una investigación a Grok, la IA de Elon Musk, por sus fotos sexualizadas

La Comisión Europea ha anunciado este lunes la apertura de una investigación a la plataforma ‘X’, del magnate Elon Musk, por la inteligencia artificial de la red social, llamada Grok, que durante semanas ha estado desnudando o vistiendo en ropa interior o con bikinis a personas por petición de otros usuarios. Aunque ya no se está permitiendo este uso de la inteligencia artificial, los técnicos comunitarios consideran que la plataforma no está mitigando los riesgos de su tecnología, un requisito de la Ley de Servicios Digitales (DSA) de la Unión Europea.

Fuentes comunitarias señalan que “hay vínculos obvios con contenido ilegal porque, desde hace tiempo, hay imágenes de menores, imágenes de desnudos, imágenes íntimas”. “Hay un vínculo con el material de abuso sexual infantil en ese contexto. Existe, por supuesto, un vínculo con la violencia contra las mujeres, con la salud mental y el bienestar en sentido amplio, todos estos son asuntos en nuestra arquitectura de evaluación de riesgos bajo la DSA”, ha señalado una fuente de la investigación. Además, el Ejecutivo comunitario ha ampliado la investigación abierta en 2023 por el sistema de recomendaciones de X, la pestaña “Para ti”, que ahora la plataforma ha informado que estará controlado precisamente por Grok.

La Comisión Europea no investiga a X por imágenes concretas producidas por Grok, sino por el hecho de que la plataforma no haya tomado las medidas necesarias para que se evite ese uso por parte de su inteligencia artificial. Los investigadores tendrán que determinar “si la empresa evaluó y mitigó adecuadamente los riesgos asociados al despliegue de las funcionalidades de Grok en X en la UE”. “Esto incluye los riesgos relacionados con la difusión de contenidos ilegales en la UE, como imágenes sexualmente explícitas manipuladas, incluidos contenidos que puedan constituir material de abuso sexual infantil”, señala el comunicado de la institución europea.

Fuentes de la investigación señalan que han “estado en contacto con ellos” y que “han cambiado algunas funciones”. “Hemos tomado en consideración esto en nuestra evaluación, pero sentimos, no obstante, que hay que mantenerla porque tenemos una arquitectura de evaluación de riesgos en la DSA”, añaden. Es decir, por mucho que ahora X haya resuelto puntualmente el problema de las imágenes generadas, sigue habiendo un problema de mitigación de riesgos, como demuestra, a ojos de Bruselas, que dicha generación de imágenes haya ocurrido. “Hasta ahora, no nos han convencido las medidas de mitigación que la plataforma ha tomado para tener eso bajo control. Porque, por supuesto, saben que la DSA no trata sobre las imágenes individuales”, explican las fuentes.

TE PUEDE INTERESAR

A Musk se le ha ido la libertad de las manos: cómo Grok le ha metido en su mayor lío internacional

M. Mcloughlin

Regina Doherty, eurodiputada irlandesa del Partido Popular Europeo (PPE), se ha adelantado unos minutos a la Comisión Europea, haciendo público que el Ejecutivo comunitario se preparaba para abrir una investigación formal a la plataforma estadounidense. En la nota de prensa circulada por la Comisión, Henna Virkkunen, vicepresidenta ejecutiva a cargo de Seguridad y Soberanía Tecnológica, subraya que “los deepfakes sexuales no consentidos de mujeres y niños son una forma violenta e inaceptable de degradación”. “Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales en virtud de la DSA, o si ha tratado los derechos de los ciudadanos europeos, incluidos los de las mujeres y los niños, como daños colaterales de su servicio”, añade la finlandesa.

¿Cuáles son los próximos pasos? "Si concluimos que hay un incumplimiento, el siguiente paso serían las conclusiones preliminares, luego la empresa tendría derecho a la defensa y a ser escuchada antes de una posible decisión final de incumplimiento, que podría incluir multas, como hicimos a finales de 2025", explican fuentes de la investigación, haciendo referencia a la sanción de 120 millones de euros impuesta en diciembre. Esas multas pueden llegar a ser del 6% de la facturación anual mundial de una compañía que esté incumpliendo la DSA.

Musk participa activamente en la campaña de la nueva administración americana, de la que formó parte cuando Trump regresó a la Casa Blanca, para que la Unión Europea desmonte tanto la DSA como la Ley de Mercados Digitales (DMA), al considerar que estas normas están diseñadas para dañar fundamentalmente a empresas americanas. En realidad, ambas leyes también afectan a compañías chinas como TikTok, y se basan en un sistema de identificación de grandes plataformas digitales (VLP), lo que afecta mayoritariamente a empresas de gran tamaño, que son fundamentalmente estadounidenses o chinas.