Los agujeros de la nueva ley europea de IA: "Han sacrificado el futuro por las prisas"

Europa ya tiene una hoja de ruta para poner normas a la tecnología de moda. Al filo de la medianoche del pasado viernes (y tras casi 40 horas de reunión), el Consejo de la Unión Europea anunciaba un acuerdo político para la ley que regulará la inteligencia artificial en los países comunitarios. Todavía quedan varios trámites para que este pacto se transforme en un texto legal y se limen algunos aspectos. Sin embargo, la nueva normativa ya está generando algunas críticas en el sector tecnológico, tanto en Estados Unidos como a este lado del Atlántico, donde se suman a la de países como Francia.

Una de las frases que más ampollas han levantado la escribió Thierry Breton, comisario de Mercado Interior, tras las negociaciones. "La UE se convierte en el primer continente en establecer normas claras para el uso de la IA. Es mucho más que una serie de reglas: es una plataforma para hacer que las nuevas empresas y los investigadores de la UE lideren la carrera mundial de la IA", publicó en su cuenta de X, la plataforma antes conocida como Twitter, para celebrar el acuerdo.

El presidente de Francia, Emmanuel Macron, cargó este mismo lunes contra el acuerdo político sobre la IA. "Podemos decidir regular mucho más rápido y mucho más fuerte que nuestros principales competidores. Pero regularemos cosas que ya no produciremos ni inventaremos. Esto nunca es una buena idea", deslizó el mandatario. Sus palabras se suman a las de la Asociación de la Industria de la Informática y las Comunicaciones en Europa, de la que forman parte Amazon, Apple, Google, Intel, Meta, Uber y X, entre otras.

En un comunicado, señalaban la frase de Breton sin citarla directamente, dejando caer que la imposición de "obligaciones estrictas a los desarrolladores de tecnologías punteras" aumentaba el riesgo de "frenar la innovación en Europa". Esos argumentos se han repetido desde el anuncio del acuerdo. "Aún no se sabe si la UE logró aprobar la primera regulación vinculante sobre IA o si esto sofocará la innovación en Europa", sugería, por su parte, Casper Klynge, vicepresidente de Asuntos Gubernamentales en Europa de Microsoft entre 2020 y 2022.

"Algunos sistemas de IA de bajo riesgo estarán ahora sujetos a requisitos estrictos sin mayor justificación, mientras que otros quedarán prohibidos por completo. Esto podría provocar un éxodo de empresas y talentos europeos de IA en busca de crecimiento en otros lugares", continuaba el comunicado de la organización patronal, que también criticaba las prisas: "Se ha sacrificado una legislación pensada para el futuro de la IA a cambio de un acuerdo rápido".

TE PUEDE INTERESAR

La UE llega a un acuerdo político sobre la primera ley para regular la inteligencia artificial

Nacho Alarcón. Bruselas

Hay un punto especialmente delicado. Se trata de la escala de calificaciones para las distintas herramientas de IA, que pueden llevar incluso a su prohibición, como es el caso de la mayoría de usos del reconocimiento biométrico. Si están permitidas, tienen que cumplir una serie de requerimientos legales, algo que generó un pulso por establecer qué hace que una IA caiga en un escalón u otro. En algunos casos, eso incluye publicar ciertos detalles sobre sus datos de entrenamiento y los resultados que proporcionan.

También se critica que la UE esté más enfocada en limitar a las grandes tecnológicas estadounidenses que en favorecer que Europa tenga sus propios gigantes de IA. Como sucede en otros sectores de la industria tecnológica, las empresas de inteligencia artificial más punteras están en EEUU, pero también son propiedad o han recibido fuertes inversiones de las empresas dominantes del sector, como Microsoft, Google o Amazon.

"La regulación es muy protectora de los derechos fundamentales y, al hacerlo, impone a las startups e innovadores una serie de condiciones que no se exigen en otras jurisprudencias", señala a El Confidencial Andrés Torrubia, codirector del Instituto de Inteligencia Artificial. "La UE ha sido el lugar de nacimiento de muchas innovaciones o el alma mater de muchos de los investigadores de IA, pero no tenemos una representación equivalente en empresas líderes. El punto de partida es de desventaja", contrapone.

Por ahora, la empresa de IA más importante en Europa es Mistral, una startup francesa que precisamente este lunes ha anunciado una ronda de financiación de 450 millones ―liderada por el fondo estadounidense a16z― que le ha dejado con una valoración de 2.000 millones. Es algo que ayuda a explicar la postura de Francia, que, junto a Alemania e Italia, ha sido el país comunitario más favorable a las estrategias empresariales. "Francia es probablemente el primer país en términos de inteligencia artificial en Europa continental. Estamos codo a codo con los británicos, que no tendrán esta regulación sobre los modelos fundacionales. Pero, sobre todo, estamos todos muy por detrás de los chinos y los estadounidenses", decía el propio Macron en su discurso, algo que deja entrever que todavía quedan demasiadas asperezas por limar.

TE PUEDE INTERESAR

Estos dos hermanos son los nuevos capos de la IA que amenazan el imperio de OpenAI

Mario Escribano

"Es una de las pocas startups europeas que entrarían en la definición de modelo fundacional que plantea la regulación. Es una empresa más abierta que OpenAI y, por ejemplo, te permite descargar su modelo. Aun así, si le preguntas qué contenido ha usado para entrenarse, te respondía que no podía dar más información por la alta competencia", continúa Torrubia. "Si la regulación les obliga a desvelar eso, al margen de que sea algo bueno o malo, no les da ventajas".

Sobre este punto, Torrubia ve "posible" que las tecnológicas desarrollen un modelo específico para el mercado europeo y otro "supuestamente con más prestaciones" para el resto. "Si solo vas a competir en Europa, te da igual, pero en la IA la competencia es mundial. Si Mistral solo por estar en la UE tiene que desvelar sus fuentes y OpenAI no, OpenAI puede tener un modelo más competitivo que Mistral en EEUU".

Javi López, empresario español que acaba de lanzar Magnific AI, también ha cargado contra la norma. "Siembra burócratas y recogerás burocracia", escribía en su cuenta de X, donde también compartió la foto de la reunión en la que se cerró el acuerdo. "Hay en esta sala más reguladores que investigadores de IA en toda la UE", continuaba, deslizando que esto podía "ahogar todas las startups en burocracia". "Se habla de proteger a los usuarios, pero lo único que se va a hacer es proteger a las empresas estadounidenses y asiáticas, que podrán seguir estando a la vanguardia tecnológica al no tener trabas burocráticas en sus países de origen", añade por su parte Francis Y, ingeniero y divulgador de IA.

"Hemos visto antes esta película"

Todo esto esconde uno de los debates más viejos de internet: la tensión entre innovación y regulación. Aquí cabe recordar la incertidumbre que ha generado la IA y que tiene todo tipo de aristas, que van desde la destrucción de puestos de trabajo hasta la manipulación, pasando por el respeto a los derechos de autor o la privacidad. De hecho, también hay quien considera que estos riesgos son remotos y que la regulación solventa más problemas que los que crea.

"Europa tiene el derecho, y hasta la obligación, de decidir quién tiene acceso a su mercado. En Silicon Valley tienen la idea de 'muévete rápido y rompe cosas', pero aquí no podemos romper cosas sin que traigan problemas", defiende Joe Haslam, director del programa de scaleup de IE University, que destaca el papel de España en la futura ley de IA: "Esta vez, los políticos sí han hecho su trabajo".

TE PUEDE INTERESAR

El abogado más odiado por las tecnológicas de EEUU: "Cometen ilegalidades con tu 'e-mail"

Mario Escribano

"Hemos visto esta película antes con Facebook y Google. Si me engañas una vez, la culpa es tuya; si me engañas dos veces, la culpa es mía", recuerda este profesor, en referencia a cuestiones como las multas millonarias que han recibido estas empresas o la falta de un acuerdo que asegure la transferencia legal de datos personales a Estados Unidos, que sigue en el aire tras una década de reveses judiciales. "Quieren que pensemos que su falta de reglas es la única manera de innovar y temen que la ley de IA europea se convierta en el estándar global". Solo hay que recordar que el propio Sam Altman ya hizo un tour europeo a principios de año para reunirse con políticos y reguladores, con parada en la Moncloa incluida.

Sobre este punto, Haslam recuerda que Europa es un mercado clave para EEUU, ya que "tiene una moneda y leyes estables que le permiten hacer negocios de forma más sencilla". "Para que funcione el modelo europeo, que es el estado de bienestar, no podemos permitir que una empresa de Silicon Valley venga, se lleve todas las ganancias y no pague impuestos. Europa tiene más que perder que EEUU si se rompen cosas", zanja.

La ley no entrará en vigor hasta 2026

Sea como sea, para que el proyecto actual se convierta en una ley faltan todavía una serie de pasos cruciales. El primer paso es el desarrollo del texto, en el que ya están trabajando los equipos legales de las instituciones comunitarias.

Está previsto dicho texto quede listo entre enero y febrero de 2024. En ese momento, tendrá que ser aprobada tanto por el Parlamento Europeo como por los distintos países. 

Sin embargo, su entrada en vigor al completo no llegará, previsiblemente, hasta 2026, ya que esta se producirá por fases.