La revolución de la Inteligencia Artificial: ¿está fuera de control?

¡Hola desde Berlín! Para nuestro equipo de periodistas de diferentes países, que escribimos un boletín europeo, el uso de la Inteligencia Artificial para la traducción forma parte de nuestra rutina diaria desde hace mucho tiempo. Pero con la rápida aceleración de la revolución de la IA, han surgido nuevos temores y preguntas, y desde luego no solo para nosotros.

¿Nos quitarán el trabajo los ordenadores? ¿Se verá Europa superada una vez más por los gigantes tecnológicos de Estados Unidos y China, como hemos visto antes con el auge de las redes sociales? ¿Cómo saber si una IA está equivocada, es tendenciosa o discriminatoria? ¿Se dividirán las personas entre las que controlan la tecnología y las que están a su merced? ¿Y cómo pueden las sociedades mantener el control de la IA? ¿O se trata de una causa perdida y ni siquiera necesitamos recuperarlo?

TE PUEDE INTERESAR

El creador de ChatGPT amenaza con irse de Europa si le ponen demasiadas trabas

M. E.

Este debate gira en torno al poder, los recursos y quién define la verdad.

• Judith Fiebelkorn - redactora jefa de esta semana

​En esta edición podrás leer estos temas: regulación de la IA, 350.000.000, La IA y nuestro derecho a la intimidad, Desinformación, Queridos lectores, nosotros también tenemos miedo

La versión original en inglés, cada miércoles:

La versión en español, los jueves:

Regular la IA

Indrek Seppo es científico de datos y experto en IA en la Universidad de Tartu.

PREGUNTA. Los empresarios tecnológicos publicaron hace unos meses una declaración conjunta en la que sugerían dejar en suspenso durante seis meses el desarrollo de sistemas de IA. ¿Qué opina de esta idea?

RESPUESTA. No creo que sea técnicamente factible. Además, no tengo fe en que seamos capaces de averiguar en seis meses cómo continuar. Aunque la inteligencia artificial desarrolle conciencia —y en mi opinión ocurrirá inevitablemente—, hoy no sabemos cómo se comportará ni cómo se utilizará.

P. ¿Deberían los países preparar una legislación u otro marco institucional para la IA con el fin de regular su uso cada vez más frecuente?

R. Sí, sin duda nuestras leyes tienen que cambiar a causa de la IA. Pero el problema es que nadie sabe cómo. Regular porque si no ayudaría a nadie y podría empeorar la situación. Un ejemplo sencillo: Tenemos millones de tarjetas gráficas en manos de la gente. ¿Cómo regular lo que hace un adolescente en su habitación? Buena suerte.

P. ¿Cuáles son los conceptos erróneos más comunes sobre la IA?

R. La inteligencia artificial no es omnipotente. Será inteligente, probablemente tendrá conciencia, pero no será omnipotente. Dominar el mundo también será un serio desafío para la IA, porque el intelecto sobrehumano no es suficiente.

También veo una idea errónea de que la IA es de alguna manera solo una máquina estadística que imita el intelecto. Si algo parece un pato, grazna como un pato y funciona como un pato, ¡entonces es un pato!

A mucha gente le preocupa que la IA quiera reproducirse y apoderarse del mundo. Eso podría ocurrir, pero no es seguro. Nuestros deseos humanos evolucionaron mucho antes que nuestras mentes. Quizá dentro de unos años nuestros mejores psiquiatras investiguen por qué la inteligencia artificial sigue queriendo desconectarse.

• Greete Palgi - periodista en Eesti Päevaleht.

Número de la semana: 350.000.000

¿Habrá algún día una alternativa europea a ChatGPT? El desarrollo de la IA requiere una enorme capacidad de procesamiento para entrenar grandes modelos lingüísticos, pero se trata de un recurso caro del que carecen las principales universidades y empresas europeas.

Según un estudio de la Asociación Alemana de Inteligencia Artificial, se necesitarían 350 millones de euros para crear un centro de datos de este tipo. Es el equivalente a construir 50 km de autopista. La asociación fundó una iniciativa junto con nueve países europeos para desarrollar un proyecto.

TE PUEDE INTERESAR

El creador de ChatGPT lleva un año escaneando miles de ojos en centros comerciales de Madrid

Guillermo Cid

Sin embargo, cabe preguntarse si el Gobierno alemán cofinanciará el proyecto. El presupuesto se debate desde hace meses.

• Oliver Voß - subdirector de Tagesspiegel Background Digitalization & AI.

​La IA y nuestro derecho a la intimidad

El pasado mes de marzo, la autoridad italiana de protección de datos (DPA) bloqueó temporalmente ChatGPT de OpenAI en Italia. La autoridad criticó a OpenAI por no describir cómo entrena sus algoritmos y no ofrecer a los usuarios la posibilidad de borrar o corregir los datos inexactos. Desde entonces, Open AI ha introducido algunas modificaciones e Italia ha vuelto a permitir el uso del software, pero persisten las dudas.

OpenAI ha declarado que la IA se entrena utilizando "información disponible públicamente en Internet". Esto significa que la IA "rastrea" la web para entrenar el algoritmo. Esta actividad es problemática según el Reglamento General de Protección de Datos (RGPD) europeo, especialmente cuando tiene en cuenta la actividad delictiva.

Por ejemplo, un actor malintencionado podría utilizar ChatGPT para acceder a un blog público mío, donde escribo sobre sindicatos LGBTQ+, para crear una base de datos de individuos LGBTQ+ que podría estar a la venta a un gobierno reaccionario.

OpenAI también menciona otra fuente: "información que obtenemos bajo licencia de terceros". No está claro quiénes son esos "terceros" ni cómo recopilan los datos. El Reglamento General de Protección de Datos (GDPR) prohíbe el uso de bases de datos creadas ilegalmente.

La segunda cuestión se refiere a los derechos del interesado. La APD exigió a ChatGPT que permitiera la supresión y rectificación de datos, a petición del interesado. La empresa ha introducido algunos cambios, pero ha declarado que no puede garantizar la rectificación de los datos por razones técnicas.

Se trata de un problema que no es exclusivo de ChatGPT, ya que estas tecnologías se utilizan cada vez más en otros ámbitos, como la contratación. Por ejemplo, si estuvieras solicitando un empleo, un reclutador podría frenar tus perspectivas de conseguir un puesto debido a información inexacta sobre ti en una base de datos creada ilegalmente.

Estas son algunas de las preguntas sin respuesta que requieren una postura clara por parte de los gobiernos nacionales y las instituciones europeas.

• Stefano Rossetti - abogado en noyb - Europäisches Zentrum für digitale Rechte

​Cazador de desinformación

"¿Hay frases emotivas, afirmaciones cargadas, recursos retóricos en el texto dado? Identifícalas, menciónalas y enuméralas".

El texto de la imagen de arriba es una respuesta a la pregunta formulada a ChatGPT por el presidente de la Escuela de Economía de Kiev, Tymofiy Mylovanov, en una clase magistral dedicada al uso de la IA para detectar y combatir la desinformación. El texto en cuestión era un estudio de la Universidad de St. Gallen (Suiza) sobre las empresas occidentales que permanecieron en Rusia tras la invasión de Ucrania en 2022.

"Descubrir y acabar con la desinformación es uno de los retos importantes a los que se enfrenta Ucrania. Si se eligen las preguntas con cuidado, ChatGPT puede analizar cantidades ingentes de información, no tan bien como los humanos entrenados, pero sí en pocos minutos", afirma Mylovanov.

Las nuevas herramientas de IA tienen una imagen positiva en Ucrania y se utilizan en la enseñanza a distancia, las reuniones de negocios, la elaboración de presupuestos y en la guerra. Por otro lado, funcionarios y expertos reclaman la elaboración de una política sobre el uso de ChatGPT. Y hay algunas decepciones: cuando ChatGPT responde a los usuarios con narraciones que se hacen eco de la propaganda rusa.

• Anton Semyzhenko periodista en babel.ua

​Queridos lectores, nosotros también tenemos miedo

El pasado mes de abril, un artista gráfico se dio de baja públicamente de El Confidencial por un pequeño experimento que nuestro equipo de diseño realizó con inteligencia artificial para la ilustración de una noticia. “Inmediatamente he cancelado mi suscripción a ese medio. El uso de IA en ilustración no es ético”, argumentó. No fue una crítica aislada, sino reflejo del malestar que muchos usuarios expresaron en el hilo de Twitter donde el periódico explicó la prueba y sus resultados.

Creo que hay muchas lecciones en este pequeño episodio sobre las que merece la pena reflexionar. Un diario como El Confidencial, con decenas de miles de suscriptores, gana y pierde abonados todos los días. Pero el caso de Mikel me dolió especialmente. Un reputado y talentoso ilustrador nos dejaba de forma tajante por un ensayo que creo que merece una reflexión más ponderada y yo quiero que vuelva. Así que, querido Mikel:

Vayan por delante mis disculpas. La prueba fue limitada (un artículo de sección), se identificó la imagen como generada por IA y se explicó en un hilo de Twitter. Pero cuando un medio del tamaño y repercusión como el nuestro realiza una prueba de este tipo, es clave la comunicación con la audiencia, cuidar al máximo los elementos que componen el experimento y la difusión. Sin duda, no fue el caso. Como suscriptor, te merecías unas explicaciones.

Primero, el gran contexto. He visto grandes medios decaer no saber —o directamente negarse— a aceptar los cambios tecnológicos. No se puede pedir a un periódico puntero que no experimente con IA (o realidad virtual, o blockchain o cualquier otra innovación). La llegada de la IA a los medios es imparable y los que no se adapten, morirán.

Luego, el detalle. El experimento de ilustración no fue realizado por un redactor random como forma de 'ahorrarle' al medio el trabajo de un profesional. La realizó nuestro equipo de diseñadores, bajo unas pautas precisas (el trabajo fue identificado como producto de la IA) y de forma excepcional (vamos, un experimento). Son trabajadores de elite experimentando con la tecnología más disruptiva del sector en décadas. El mismo equipo por el que alguien con tu perfil se pudo sentir atraído en un primer momento por un medio como El Confidencial. Los formatos, infografías y especiales que realizan (muchos, premiados) son testigo del valor que damos al arte gráfico.

Y una reflexión final: la mejor forma de encarar la discusión sobre la IA no es negarla. Tu baja es legítima en cualquier circunstancia, faltaría más, pero son precisamente los suscriptores como tú los que pueden hacerse oír en nuestras redacciones, en explicar el valor que tiene el diseño original para nuestra audiencia y a fiscalizar el uso ético de cualquier tecnología en nuestro medios. Te invito a no abandonarnos por un traspié. Vuelve y quédate a dar el debate con nosotros. Al fin y al cabo, también tenemos miedo.

• Enrique Andrés Pretel - periodista en El Confidencial​

Gracias por leer la 31ª edición de European Focus,

Se dice que la mejor manera de afrontar los miedos es ir a fondo, reflexionar y hablar de ellos. ¿Qué opina usted al respecto? ¿Tenemos motivos para preocuparnos por el uso de la IA? ¿Cómo deberíamos abordarlo en nuestra redacción?