Esto es lo que prohíbe la primera ley que regula la inteligencia artificial

• Microsoft hace la mayor inversión de su historia en España (Casi 2.000 M) para infraestructura de inteligencia artificial
• Las empresas de IA están comprando medio internet. Es una señal de lo que viene

El Parlamento Europeo aprobó la Ley de Inteligencia Artificial el pasado miércoles 13 de marzo con un doble propósito: impulsar la innovación tecnológica y, a la vez, garantizar la seguridad y los derechos fundamentales de los ciudadanos de la Unión Europea. Tras intensas negociaciones con los 27 países miembros, el reglamento contó con el respaldo de 523 diputados. Solo registró 46 votos en contra y 49 abstenciones.

Llegados a este punto, toca analizar qué es exactamente lo que prohíbe la nueva Ley de Inteligencia Artificial para saber a qué atenernos en el futuro. En este sentido, lo primero que llama la atención es la imposibilidad de capturar imágenes faciales de Internet o de grabaciones realizadas con cámaras de videovigilancia con el propósito de elaborar bases de datos de reconocimiento facial. También queda tajantemente prohibida la creación de sistemas de categorización biométrica basados en características sensibles, como puede ser el color de la piel.

TE PUEDE INTERESAR

El Parlamento Europeo aprueba una regulación histórica: luz verde a la ley de IA

Albert Sanchis Nacho Alarcón. Estrasburgo

Por su parte, este texto también prohíbe expresamente el uso de la IA para reconocer emociones de trabajadores y alumnos, así como el desarrollo de sistemas de puntuación ciudadana. Especial mención hace la ley a la “actuación policial predictiva”, que nunca podrá llevarse a cabo si se fundamenta exclusivamente en la elaboración de un perfil a partir de la evaluación de las características de los sujetos.

Sin embargo, hay excepciones contempladas para las fuerzas de seguridad. Por ejemplo, las autoridades policiales de los países miembros de la UE podrán utilizar sistemas de identificación biométrica en tiempo real si cuentan con una autorización judicial o administrativa y su uso se limita a un lugar y a un período de tiempo fijado de antemano. Especialmente, si el objetivo es prevenir un atentado terrorista o encontrar a una persona desaparecida. El empleo de esta tecnología con posterioridad a la comisión de un delito penal solo será posible si se cuenta con el visto bueno de un juez.

Otras prohibiciones y obligaciones

Además, queda terminantemente prohibido el uso de la IA con el propósito de manipular el comportamiento de los ciudadanos (por ejemplo, publicando deepfakes en redes sociales) y de explotar sus vulnerabilidades. En este sentido, cualquier texto, vídeo o audio que haya sido creado o editado con IA debe indicarlo claramente. Todos los residentes en el territorio comunitario deben tener la posibilidad de presentar reclamaciones y de obtener explicaciones acerca de las decisiones tomadas sobre ellos utilizando la IA que afecten a sus derechos.

Estas prohibiciones se aplicarán por igual a todos los sistemas de IA que operen dentro de la Unión Europea. Su cumplimiento gozará de especial vigilancia cuando reciban la consideración de “alto riesgo”. La nueva ley utiliza este término para hablar de las inteligencias artificiales utilizadas en los ámbitos de la salud, el medioambiente y la seguridad, ya que están estrechamente ligados a los derechos fundamentales de los ciudadanos, a la democracia y al Estado de derecho.

Asimismo, da esta calificación a los sistemas de IA que operen sobre “infraestructuras críticas” (electricidad, telecomunicaciones, agua...), así como sobre la educación, el empleo y cualquier servicio público en general. También en algunos privados, como puede ser el caso de la banca y del sector de los seguros.