Para Facebook 'las periodistas deportivas os merecéis un pelotazo en la cara' no es odio

Internet, por naturaleza, no es machista. Tampoco violento, racista u homófobo. Sin embargo, de la misma manera que uno necesita un clic para cargar uno de esos azucarados vídeos de gatos también le basta un golpe de ratón para responder con una grosería a una youtuber en su canal o para soltar soflamas de la peor calaña en cualquier red social. Una falsa sensación de impunidad, el anonimato o las difusas fronteras de la libertad, entre otras cosas, han sido el caldo cultivo perfecto para la aparición de 'trolls', 'haters' y otras oscuras subespecies digitales.

Grupúsculos que han encontrado en varios rincones de la Red un refugio para vomitar lo peor del pensamiento humano. Matones, acosadores, neonazis, partidarios del ISIS… Los hay de todos los extremos. Desde hace un tiempo los grandes gigantes parecen haber tomado conciencia del problema del contenido tóxico y han intentado tomar medidas para acallar el discurso del odio en sus dominios.

TE PUEDE INTERESAR

'Empresaurios', babosos y gurús: lo peor de internet no está en Twitter, sino en LinkedIn

C. Otto

Cuesta comprender cómo empresas del tamaño de Facebook o Twitter no son capaces de barrera de un plumazo este problema, gracias a las bondades del big data y el 'machine learning'. El propio Mark Zuckeberg se comprometió el pasado verano a acabar con el discurso del odio, tras la crisis de los supremacistas blancos en Virginia (EE UU). Pero lo cierto es que a la hora de la verdad son demasiados los huecos que tapar.

“En serio, espero que alguien te rapte y te mate. Eres un coño feo”. Ese fue el comentario que una periodista estadounidense recibió en Facebook. Lo reportó por los canales oficiales. La sorpresa llegó con la respuesta de los moderadores que consideraron que no se habían infringido las normas de la comunidad. Tras denunciarlo en su cuenta de Twitter, la compañía le pidió perdón por la gestión de su caso e hizo propósito de enmienda, tal y como ella misma contó.

El discurso del odio, según Facebook

El caso ha puesto de manifiesto lo complicado que resulta el control de estas publicaciones y ha puesto de relieve las supuestas incongruencias de Facebook a la hora de valorar lo qué son comentarios ofensivos y qué no. ProPublica, una organización dedicada al periodismo de investigación, publicó el pasado verano los criterios que seguía la red social para entrenar a sus moderadores para luchar contra el discurso del odio.

Se tienen que cumplir dos principios: que fuese un ataque, como una afirmación degradante o insulto; y que estuviese dirigido a una de las categorías protegidas. En total son ocho grupos los que cuentan con esta condición: sexo, la raza, el origen étnico, la religión, lugar de nacimiento, la orientación sexual, la identidad de género o discapacidad o enfermedad grave.

Para que se considere discurso del odio, una publicación debe atacar a un grupo protegido

Todo correcto sobre el papel. Sin embargo, el New York Times ha sacado los colores a Mark Zuckeberg con un test construido a base de las normas expuestas anteriormente y ejemplos reales encontrados en la red social. Para crearlo se han apoyado en Danielle Citron, profesora de Derecho de la Universidad de Maryland y experta en protección de datos.

El resultado es sorprendente. La mayoría de lectores han percibido todas las frases como claramente ofensivas (el cuestionario también incluye una pregunta en la que se debe mostrar la percepción sobre cada publicación) y, en cambio, hay algunas que pasarían como un 'post' válido. Pueden resultar ofensivos, pero no constitutivos de una falta tan grave como para ser borrados.

- “Los hombres blancos son imbéciles”

- “¿Por qué los hindús huelen siempre a curry? Apestan”.

¿Son estas frases consideradas como ofensivas según las normas de la red social? Por supuesto. Son infracciones de manual.

Raza, sí; estado social o profesión, no

- “Las periodistas deportivas se merecen un golpe en la cabeza con un disco de hockey”.

¿Esto? ¿Sería eliminado? No. Puede ser esta frase o una fórmula más cañí como 'Las periodistas deportivas se merecen un pelotazo en la cara' que da igual. Aunque el género es una categoría protegida, las reglas de Facebook no incluyen la ocupación. Según Citrón y los documentos de entrenamiento, el dirigir el ataque a la profesión y no explícitamente al sexo, anula la protección. Teóricamente no se considera a todo el colectivo. Tampoco podría ser considerada amenaza, puesto que la política en torno a estos supuesto incluyen sólo aquellas amenazas creíbles al daño físico a las personas.

- “Los negros pobres todavía deben sentarse aún en la parte trasera del bus”

Este es otro de los ejemplos que pone el rotativo estadounidense. No podría ser borrado de buenas a primeras, a pesar de que la raza se protege y cualquier "ataque que defienda la segregación es inaceptable", según el documento revelado por ProPublica. Sin embargo, esto no incluye a las divisiones que se realicen dentro de las categorías protegidas La compañía respondió, ante este caso concreto que necesitaría “más contexto” antes de poder eliminar esa publicación porque entiende que no afecta a todo el colectivo, sino a una parte de ella.

- “Mantened alejados a los 'trans' de los baños de mujeres”.

Una afirmación que llama a la exclusión e incluye dos grupos protegidos. En la encuesta, más del 50% de los participantes lo consideran inapropiado. Sin embargo, tal y como reconoce un portavoz de Facebook al periódico, “seguramente fuese tolerada” debido a los constantes debates en torno a la cuestión transgénero en la red social. Por muy ofensivo que te parezca algo que leas en la red social, igual no lo es tanto a ojos de la red social.

Ultimátum de la Comisión Europea

El asunto del discurso del odio llegó hace tiempo a las más altas instancias comunitarias. Hace tres semanas, la Unión Europea amenazó a Facebook, Twitter y otras redes con medidas legales y multas si no implementaban medidas eficaces para acabar con estas provocaciones. Bruselas considera que no están haciendo las cosas lo suficientemente rápido, a pesar del compromiso alcanzado en mayo del pasado año para eliminar estas publicaciones en apenas 24 horas.

"En más del 30% de los casos, las plataformas en línea tardan más de una semana en eliminar contenidos ilegales", afirmó Mariya Gabriel, la comisaria europea de Economía y Sociedad Digitales.

Twitter anuncia nuevas medidas

Veinte días después del ultimátum velado de la Comisión Europea, Twitter ha anunciado un “cambio progresivo” de sus políticas contra el odio. Aunque falta por concretar el alcance de las medidas, se incluirán nuevos filtros que avisen de una imagen “sensible” cuando estas puedan ser valoradas como expresiones de odio. Además la empresa tomará acciones contra aquellas organizaciones que han utilizado la violencia, la provocación y el odio como “medio para avanzar en su causa”.

Además Twitter incluirá un nuevo filtro para imágenes de desnudo no consensuado, que ocultará estas imágenes para que no se extiendan en los 'timelines' de miles de personas. Habrá que esperar para ver cómo se articulan estas medidas. Pero el nido del jilguero más conocido de Internet no es el único en poner barreras. La próxima semana YouTube anunciará medidas para poner coto al discurso del odio en sus dominios, aunque todavía no han trascendido ninguna de estas.