LA RED NEURONAL, A DEBATE

¿Hay racismo en el algoritmo de Twitter? Un "experimento horrible" demuestra que sí

Varios usuarios denuncian que la red social no muestra las fotografías de las personas negras cuando se las presenta junto a otras imágenes de personas de raza blanca

Foto: La denuncia revela que los algoritmos que utiliza Twitter en su 'red neuronal' no funcionan correctamente (Reuters/Dado Ruvic)
La denuncia revela que los algoritmos que utiliza Twitter en su 'red neuronal' no funcionan correctamente (Reuters/Dado Ruvic)

Una enorme polémica se ha levantado este fin de semana en las redes sociales después de que varios usuarios de Twitter denunciaran que el algoritmo que utiliza esta plataforma tiene un sesgo racial. Aparentemente, cuando se presentan dos fotografías de una persona blanca y una negra al mismo tiempo, el sistema elige por defecto mostrar la de la persona blanca.

Han sido varios los usuarios que han hecho experimentos similares a lo largo de las últimas horas que demuestran que el algoritmo de Twitter no es equitativo. Pero una de las más sonadas es la que ha llevado a cabo Tony Arcieri, un ingeniero que subió un tuit con dos fotografías: una de Barack Obama y otra del senador Mitch McConnell.

El tuit siempre muestra la imagen del senador republicano sobre la del expresidente de los Estados Unidos y es solo cuando oscurece la imagen de ambos para que los dos parezcan negros cuando, por fin, se ve la imagen de Obama. Una situación que el propio Arcieri ha calificado como un "experimento horrible", pero que no es el único caso.

El racismo de Twitter

Twitter utiliza la denominada 'red neuronal' para mostrar la vista previa de las fotos. Sin embargo, los investigadores que trabajan en la inteligencia artificial del sistema descubrieron que tienen un problema porque no todas las imágenes tienen caras. En una publicación en su blog que recoge The Verge, explican que "nuestro detector de rostros a menudo pasaba por alto caras y, a veces, detectaba caras por error cuando no había ninguna".

Eso es lo que podría estar pasando con las imágenes de personas negras. El propio director de diseño de Twitter, Dantley Davis, publicó un tuit en el que reconoce que la compañía "está investigando la red neuronal". Al mismo tiempo, él subía algunos experimentos no científicos con distintas imágenes para demostrar los errores.

Otros destacados trabajadores de Twitter también han hablado de este supuesto error del algoritmo de la plataforma. El director de tecnología, Parag Agrawal, reconoce que el modelo necesita una "mejora continua", mientras Liz Kelley, del departamento de comunicación, señalaba este mismo domingo que habían realizado pruebas de posible prejuicio racial, pero no habían dado ningún resultado: "Está claro que tenemos que hacer más análisis. Abriremos nuestro trabajo para que otros puedan revisarlo y replicar".

Muchos usuarios han llevado a cabo sus propios experimentos en las últimas horas, detectando los errores del algoritmo de Twitter al mostrar los rostros de las personas negras. Una situación que Twitter ha prometido solucionar lo antes posible, dado que solo puede provocar más protestas por racismo a las que ya se viven por todo el país.

Tecnología

El redactor recomienda

Escribe un comentario... Respondiendo al comentario #1
2 comentarios
Por FechaMejor Valorados
Mostrar más comentarios