El 'HODIO' de Pedro Sánchez: así funcionará el 'medidor' del Gobierno en redes sociales

"Cuando algo se mide, deja de ser invisible". Así ha presentado esta mañana el presidente del Gobierno una nueva herramienta llamada HODIO. "H-O-D-I-O", deletreó Sánchez, para dejar claro cuál es la idea detrás de tan extraña marca: medir la huella del odio y la polarización e "impedir el impacto social y democrático que los discursos del odio generan en nuestro país", aseguró. Se trata de una de las cuatro medidas que el presidente avanzó hace unas semanas en Dubái, cuando anunció que prohibiría el acceso a redes sociales a menores de 16 años y, además, perseguiría a las plataformas tecnológicas y a sus directivos por diseminar discursos del odio sin tomar medidas. ¿Cómo? Su respuesta se llama HODIO.

El anuncio de Sánchez se produjo en la primera Cumbre Internacional contra el Odio, organizada hoy en Madrid por el Gobierno y, en concreto, por el Ministerio de Inclusión, Seguridad Social y Migraciones, responsable del desarrollo de la herramienta HODIO. Los detalles técnicos del sistema, su metodología o, más importante aún, para qué se van a usar exactamente los datos que recopile, son aún escasos. Contactados por este diario, portavoces del Ministerio de Inclusión aseguran que "está todo aún en fase muy inicial" y los trabajos técnicos "se están llevando a cabo".

Desde el Observatorio Español del Racismo y la Xenofobia (Oberaxe), el organismo adscrito al Ministerio de Inclusión encargado de desarrollar e implementar HODIO, aseguran a El Confidencial que la herramienta "completará el sistema FARO generando un ranking público y transparente que permitirá comparar la exposición al odio de los usuarios en Instagram, TikTok, X, YouTube y Facebook". El objetivo es calcular la "prevalencia [porcentaje de usuarios que comparten discursos de odio sobre el total], el nivel de amplificación y el impacto del odio y la polarización utilizando técnicas de IA y revisión humana".

TE PUEDE INTERESAR

Prohibir las redes a menores de 16: una jugada política que no logrará nada

Manuel Ángel Méndez

El Ministerio de Inclusión, de la mano de LaLiga, estrenó hace un año el sistema FARO, una herramienta capaz de "identificar y analizar en tiempo real los contenidos de discurso de odio con motivaciones racistas, xenófobas, islamófobas, antisemitas y antigitanas publicados en Facebook, Instagram, TikTok, YouTube y X." FARO usa inteligencia artificial para clasificar de forma automática los mensajes en tiempo real. El sistema aplica más de 100.000 reglas semánticas en español para filtrar y clasificar la información según distintos atributos. Por ejemplo, se distinguen dos niveles: por un lado, discurso puro de odio, contenido que podría ser ilegal o infringir las normas de la plataforma; y, por otro, el "discurso odioso y narrativas discriminatorias" que, aunque no son ilegales, promueven la intolerancia y la polarización. El proceso de análisis de los mensajes incluye doble revisión, una automática y otra manual, realizada por un equipo de Oberaxe.

La herramienta HODIO será ahora una capa adicional que se añadirá sobre el sistema FARO para ir varios pasos más allá y "exponer qué plataformas frenan el odio, cuáles miran hacia otro lado y cuáles hacen negocio con ello", señalaba hoy Pedro Sánchez. Es decir, será una forma de señalar con datos oficiales a Elon Musk, Mark Zuckerberg y al resto de tecnoligarcas a los que el Gobierno quiere meter en vereda porque, entre otras cosas, encaja con la estrategia política de enfrentamiento directo con la administración Trump.

Elias Said, catedrático de sociología de la Universidad Internacional de La Rioja (UNIR), lleva años estudiando la creación y propagación de discursos de odio en las redes sociales. Su grupo de trabajo ha creado una herramienta de análisis que rastrea las redes y se actualiza a diario. Califica el anuncio del Gobierno de "positivo", pero falta todo lo demás. "Está bien a nivel pedagógico y social, pero la clave es el alcance de esta propuesta, el cómo y para qué. Ahí está el detalle: ¿Cómo van a medir exactamente la huella del odio? ¿Y la polarización? ¿Cómo van a integrar ese trabajo con lo que se lleva haciendo ya desde hace 2-3 años en la Unión Europea o en Francia?".

El plan del Gobierno sorprende porque el discurso de odio en internet, sus mecanismos de creación y propagación, es uno de los fenómenos más estudiados desde hace una década. Sobran los datos e informes, muchos del mundo anglosajón, pero cada vez menos. "Nosotros hemos medido una prevalencia del 88% de los discursos de odio en las principales redes sociales, es decir, después de 3 años de su publicación, el 88% de los mensajes seguían publicados. Pero distinguimos 4 tipos de intensidad: mensajes incívicos, malintencionados, insultos y amenazas. Solo estos últimos son los que constituyen delito. La polarización es la antesala al odio", explica Said. ¿Cuál es la metodología exacta que usará el Gobierno? ¿Por qué lanzar un nuevo proyecto para recabar datos cuando hay infinidad de informes y proyectos, nacionales e internacionales, que ya los recopilan? ¿Era necesario reinventar la rueda?

Un problema global... sin remedio a nivel local

En España, el trabajo que ahora pretende hacer el Gobierno con HODIO ha sido principalmente un “trabajo de guerrilla” que hacían algunos investigadores y expertos académicos. Una labor que en los últimos tiempos se les ha complicado mucho, tal y como explican algunos de ellos a este periódico después del anuncio realizado por Pedro Sánchez.

“Cuando Elon Musk llegó a Twitter nos retiró la API que teníamos los investigadores para hacer este trabajo. Nos quedaron entonces técnicas como el scrapeo, pero eso también se ha complicado mucho en las últimas semanas”, explica Javier Barriuso, experto en análisis de datos en redes sociales. “El caso de Twitter es el más llamativo y más representativo de cómo se han puesto palos en las ruedas a este tipo de trabajos y análisis. Hay una monetización demostrada de estas prácticas y no hay un interés real por parte de los implicados en solucionarlo, porque sacan beneficio”, concluye.

Además, Barriuso introduce una variable adicional: el debate se centra en redes como Twitter, pero el auge de plataformas como TikTok entraña retos adicionales para la monitorización. “El video es extremadamente complejo de analizar en comparación con el video: necesitas más tiempo, más dinero y equipos especializados. Y aunque se puedan tener sistemas de control bastante refinados, hay formas de esquivarlos al no ser tan explícito con las palabras que se usan”.

TE PUEDE INTERESAR

¿Prohibir las redes sociales a los menores por ley? En estos estados ya se debate en serio

Ángel Villarino Michael Mcloughlin

El informático Marcelino Madrigal es otra de las figuras que en España lleva años estudiando los discursos de odio y la desinformación en redes sociales. Para él, el problema no es tanto técnico. “Existen herramientas y vías de monitorizar todo esto si se tiene presupuesto y recursos”, aclara. “Aquí el problema es del paso a la acción”. Señala que el de las redes sociales es un problema de una “legislación local” que trata de controlar “a plataformas globales que no quieren colaborar”, como ya ha “quedado demostrado en muchísimas ocasiones”.

Mariluz Congosto, analista y profesora honorífica de la Universidad de Málaga, coincide en este diagnóstico. “Hay perfiles que diseminan odio de forma pública, sin esconderse, pero una gran mayoría, que suelen ser más agresivos y tienden a ir más lejos, suelen ser anónimos”, apunta. Recuerda que haciendo “ingeniería inversa” se puede detectar e identificar a algunos de estos actores, pero “la colaboración de las empresas en cuestión es fundamental”.

Hablando de lo anunciado por el Ejecutivo, Congosto reconoce que se podrá monitorizar cosas como los temas y campos de la polarización, la agresividad de los mensajes y otros parámetros… pero cree que el proyecto se enfrenta a un problema que se arrastra desde hace tiempo. “Lo que es realmente difícil es establecer el punto donde, por así decirlo, comienza el odio, porque ahí no hay consenso generalizado”. Barriuso comparte este punto de vista y es pesimista respecto a los resultados efectivos de la iniciativa. "Esto es una acción de buenas intenciones, pero creo que va a tener difícil llegar a algún lado, más allá de visibilizar el problema”.

Elías Said aporta un dato final que confirma lo fácil que es lanzar proyectos de medición del odio y lo complicado que es evitarlo. "Por 25 euros puedes comprar 1.000 cuentas verificadas en redes sociales para lanzar mensajes de odio. Eso te incluye un software para automatizar los envíos. No te hace falta ni montar bots, es mucho más caro", explica. Es un negocio para todos, un negocio que España, con la herramienta HODIO o sin ella, no va a poder frenar.