Origen étnico, sexo o vestimenta: el polémico sistema de Renfe para vigilar a sus viajeros

Mientras usted deambula por el andén esperando el próximo tren, esa cámara de seguridad a la que nunca presta atención ha podido reconocer ya si es hombre o mujer, identificar si va bien vestido, si está alegre o triste e incluso clasificarle por su origen étnico. Al menos, eso es lo que pretende Renfe en 25 paradas de Cercanías de varios puntos del país. La compañía ha publicado el anuncio de una licitación de un contrato por valor de 781.000 euros, cuantía con la que el adjudicatario deberá desarrollar un sistema de análisis de imágenes con el fin de disponer de una plataforma que sirva a la compañía para anticiparse a incidentes en sus instalaciones.

TE PUEDE INTERESAR

La auditoría de 3 ingenieros que saca las vergüenzas de las webs públicas españolas

Michael Mcloughlin

Tanto el anuncio de la convocatoria y el documento en el que se desarrollan los diferentes puntos, al que ha tenido acceso este periódico, se hicieron públicos el pasado lunes en la Plataforma de Contratación del Sector Público. El pliego de condiciones venía firmado por la Gerencia de Tecnología y Sistemas Lógicos de la Dirección de Seguridad, Autoprotección y Prevención de Riesgos del operador ferroviario. Aunque el anuncio sigue estando activo, el documento con los pormenores ha sido retirado este miércoles por la mañana tras la publicación de este artículo, tal y como figura en la web pública.

El texto hace referencia únicamente al 'software', que deberá implementarse sobre el circuito de cámaras IP y servidores ya existentes en dichas ubicaciones. Un circuito conectado para dar alarmas en tiempos reales al Cecon (Centro de Coordinación y Control de Emergencias de Renfe), así como a los distintos centros regionales que tiene la empresa en diferentes ciudades.

En realidad, este concurso, tal y como ha confirmado la compañía, es una segunda parte del piloto que se puso en marcha en verano de 2020. En ese momento, cuando España empezaba a digerir eso de la nueva normalidad, Renfe anunció que experimentaría con una solución basada en inteligencia artificial para detectar excesos de aforo en los andenes que impidiesen mantener la distancia de seguridad, un extremo que ha venido preocupando durante toda la pandemia a muchos usuarios del transporte público. Consultados por este diario, desde la empresa explican que lo que se busca ahora es consolidar "y aumentar las capacidades de este sistema" puesto en marcha el pasado año.

Las paradas que aparecen en el texto, en el caso de Madrid, serán Atocha, Sol, Nuevos Ministerios, Principe Pío, Méndez Álvaro, Aeropuerto de Barajas, Villaverde Alto o Entrevías. Fuera de la capital, Getafe Centro, Fuenlabrada, Mostoles, Alcorcón, Fuente de la Mora o Alcalá de Henares. En Barcelona, las escogidas son Plaza Cataluña, Arco del Triunfo, Clot Aragó y Sagrera. En el resto de Cataluña, de momento, hay que sumar Terrassa, Mataró y Sant Andreu Arenal. Completan el listado San Bernardo (Andalucia), Llodio (Euskadi) y San Isidro (Valencia).

Control de andenes y tornos

El pliego da una imagen bastante completa de cómo funciona el piloto y de lo que se pretende conseguir en esta nueva fase. Se habla de dos puntos de control: la zona de los tornos y la de los andenes. En cada uno de ellos, el sistema tendrá que ser capaz de identificar ciertos elementos, que atañen principalmente a los usuarios, pero también a los trenes. Hay dos tipos de analíticas: unas de implementación inmediata y otras que se deben activar cuando hayan transcurrido seis meses de vigencia del contrato. Antes de la entrada en funcionamiento, hay que llevar a cabo una fase de preproducción para dar continuidad al trabajo que se está llevando a cabo por los actuales responsables del piloto, cuyo nombre no ha trascendido por el momento.

En esa primera fase, la plataforma deberá ser capaz de chequear cada 30 segundos el aforo en los andenes, sabiendo si hay demasiada gente con una fiabilidad de al menos el 98% y configurar un mapa de calor. De la misma forma, tiene que detectar si se producen desmayos, caídas de objetos y personas a la vía o si hay presencia de humo o fuego. En el caso de los controles de acceso, las cámaras deberán poder saber el número de personas que entran o salen, si llevan mascarilla, si portan bicis, patinetes o maletas.

También debe alertar si dos personas están haciendo el 'trenecito' para ahorrarse un billete, si se han saltado el torno o cualquier otro acto de picaresca para ahorrarse el precio del trayecto. Además de la detección de los eventuales fraudes, el documento recoge que deberá llevar a cabo un análisis de entrada en función del título de transporte que se utilice, así como la identificación del usuario por lo que ellos definen como "atributos comunes". Unos atributos entre los que listan "edad, género, origen étnico, tipo de ropa, viajan solos/niños/grupos numerosos, estado de ánimo (felices, tristes, cansados, sin determinar)".

Cuando transcurra medio año de vigencia, se implementará la segunda fase para detectar aforo en tiempo real o presencia de trenes en vías contiguas. Pero también para analizar la conducta de los usuarios, pudiendo reconocer episodios como "tumultos o peleas", grafiteros en plena acción, robos, merodeo, agresiones o "comportamientos anómalos, como huelgas o manifestaciones". También incluye que el sistema sea capaz de identificar el grado de satisfacción del viajero al utilizar las máquinas expendedoras a través de la cámara que muchas de estas tienen integrada.

En la segunda fase, el sistema debería reconocer "merodeos" o "actitudes antisociales"

El objeto final de este contrato, que se define como la tercera fase, consiste "en la implementación de una red neuronal nutrida con datos tanto de seguridad interna, como procedentes de fuentes de diversa índole (redes sociales, datos internos Renfe, datos procedentes de administraciones públicas, y cualquier otra fuente de datos que Renfe quiera incluir) que de forma automática, y con autoaprendizaje, puedan evaluar y predecir supuestos, detectar patrones y anomalías y dotar al sistema de una capa de inteligencia más profunda y robusta".

Dudas sobre la privacidad

Consultados sobre los términos y condiciones, algunos expertos en protección de datos y privacidad muestran sus reservas sobre ciertos puntos. "Se indica que la captación de datos puede proceder de fuentes internas, lo que recogen las cámaras; o externas, por ejemplo, redes sociales", explica Javier Prenafeta, abogado especialista en derecho tecnológico y socio del despacho 451.legal. "Esto implicaría tener que justificar el tratamiento de estos datos con arreglo a los fines, que se entiende que serán la vigilancia y control de la seguridad de las instalaciones y las personas, obviamente sin consentimiento", añade este letrado.

El documento recoge también que hay varias analíticas "excluyentes", entre ellas, la étnica. Si finalmente la empresa seleccionada no la incluye en su oferta (el plazo está abierto hasta el 15 de marzo) quedaría fuera de la licitación.

Prenafeta sostiene que no existe "base legal suficiente" para ello en la medida en que se pretende tratar información de categorías especiales (como la etnia) con el fin de "generación de perfiles sobre 'propensión' a fraude, comisión de delitos o actos vandálicos o antisociales". "Incluyen incluso la valoración del estado anímico de una persona. Hay un elemento de subjetividad enorme en todo esto", remata.

Una opinión que también comparte Samuel Parra, abogado especialista en nuevas tecnologías, ciberseguridad y privacidad. "Creo sinceramente que si hay alguna empresa que se lleva la licitación y trata de ponerlo en marcha, no va a lograrlo, porque vulnera directamente el Reglamento de Protección de Datos. Si se desarrolla tal cual aparece en el pliego, la Agencia de Protección de Datos les va a investigar", augura.

Explica Parra que la etnia es un dato especialmente protegido por la legislación. "La normativa europea establece el consentimiento obligado para tratarlo. Pero en España existe una disposición adicional por la que, aunque el usuario dé luz verde a su tratamiento, no es suficiente. La información sobre el origen étnico solo se puede tratar en una serie de supuestos y lo que pretende hacer Renfe no encaja en esos supuestos 'a priori", añade.

Los expertos coinciden en que incluir el origen étnico en el sistema no está permitido

Parra muestra abiertamente sus reservas. "Hay que pensar que básicamente esto va a ser una ecuación con una serie de variables que te va a dar un número que te va a acabar indicando el riesgo. Meter el origen étnico ahí es relacionarlo con una mayor peligrosidad o no", advierte. Preguntados sobre el punto en el que se plantea el análisis se realice atendiendo a ciertos atributos como la etnia, la vestimenta o el estado anímico, desde la compañía no han proporcionado más información allá de la incluída en el pliego sin revelar más aspectos del funcionamiento o de dudas surgidas planteadas por estos expertos en privacidad.

Detección de emociones: el reto

"A día de hoy, detectar la raza o la etnia de una persona a través de reconocimiento facial no es complicado. Conlleva una dificultad parecida a lo que puede ser distinguir un hombre de una mujer", dice David Masip, especialista en inteligencia artificial e investigador principal del grupo I+D+ i Sunai de la Universidad Oberta de Catalunya. "En general, nada de lo que plantea la licitación es imposible de lograr. Hay que pensar, por ejemplo, en el acceso a los tornos, que las cámaras suelen estar situadas en lugares privilegiados. Si conseguimos contar asistentes a manifestaciones en tiempo real con vistas aéreas, se puede distinguir si hay una o dos cabezas pasando por el acceso cuando han introducido el billete", aclara este docente de la UOC, que dice que la parte menos fiable es la detección de emociones.

"En esta materia, se ha logrado un nivel de efectividad alto en entornos controlados. Sin embargo, cogiendo imágenes de películas y otras fuentes, donde ya no tenemos la cara de frente, con peor iluminación o está tapada por algún objeto, la efectividad se reduce", continúa. "Hay que pensar que muchas veces distinguir si uno está feliz o no puede depender de una pequeña mueca que en una imagen pueden ser tres o cuatro píxeles". Preguntado por su postura al respecto de la propuesta de Renfe, Masip aclara que no es experto en leyes, pero que no le parece "muy ético incorporar el origen étnico", además de no tener muy claro el valor del mismo "para la efectividad del sistema".

Prenafeta pone el acento en otro asunto. "Todo esto exige hacer un previo análisis de riesgo, evaluación de impacto en protección de datos y juicios de idoneidad de las medidas previstas en relación al fin pretendido", explica. La oferta publicada indica que eso deberá caer en el prestador del servicio. "No deja de ser un encargado del tratamiento, y esto debería corresponder exclusivamente a Renfe como responsable de los tratamientos".

No es la primera vez que en los últimos tiempos se licita un servicio así. En 2019, ya se llevó a cabo para instalar cámaras de reconocimiento facial en Ifema, y desde 2016 hay un sistema parecido en la estación de autobuses de Méndez Alvaro, en Madrid, algo que ha servido, según sus responsables, para ahuyentar a carteristas y reducir el número de hurtos. La pregunta es: ¿hace falta una regulación específica para este tipo de tecnologías? Ambos letrados coinciden: no. "Con la RGPD, tenemos unas herramientas lo suficientemente amplias para evitar abusos, independientemente del canal que se utilice".