Las 4 mujeres que tumbaron el algoritmo clasista de Boris Johnson apuntan a Uber
  1. Mercados
  2. The Wall Street Journal
han vencido al gobierno británico

Las 4 mujeres que tumbaron el algoritmo clasista de Boris Johnson apuntan a Uber

Foxglove hizo retroceder con éxito las herramientas tecnológicas del Gobierno y ahora se centra en objetivos corporativos mayores

placeholder Foto: EC
EC

Un grupo de defensa de la tecnología formado por cuatro mujeres que obligó al Gobierno británico a deshacerse de un polémico algoritmo para procesar visas y lideró una respuesta popular a una herramienta para predecir calificaciones en selectividad ahora se enfrenta a Facebook y Uber por los derechos de los trabajadores.

El grupo, llamado Foxglove por la flor europea que, según indican las fundadoras, puede actuar como veneno o como cura, se ha convertido en una fuerza repentina en los círculos tecnológicos del continente. Su reciente éxito de gran repercusión mediática en Reino Unido durante el último año y medio le ha otorgado una plataforma global atípica para un grupo tan pequeño.

En Europa y EEUU han surgido grupos similares para desafiar lo que ven como el creciente poder de Silicon Valley, y su defensa se centra sobre todo en cuestiones de privacidad. Foxglove se ha abierto un camino diferente, apuntando hacia algoritmos creados por el Gobierno que toman cada vez más decisiones en áreas cívicas como educación e inmigración.

placeholder Cori Cride, Rosa Curling, Martha Dark y Hiba Ahmad, líderes de Foxglove.
Cori Cride, Rosa Curling, Martha Dark y Hiba Ahmad, líderes de Foxglove.

“Prácticamente no había nadie en la sociedad civil haciendo algo al respecto”, declara una de las fundadoras de Foxglove, Cori Crider, de 39 años y originaria de Texas. “Lo que nos interesa es este cambio en la forma en la que se ejercita el poder, prácticamente ocultando una serie de juicios políticos discutibles tras un revestimiento tecnológico”.

Una organización sin ánimo de lucro con un presupuesto de poco más de medio millón de dólares este año, ahora Foxglove está centrada en los derechos de los trabajadores tecnológicos. Sus fundadoras se reunieron en 2019 en ‘brunches’ los fines de semana en sus casas en Londres. Junto con Crider, las líderes del grupo son Rosa Curling, abogada británica de 42 años, y Martha Dark, jefa de operaciones para grupos de derechos humanos de 33 años. Las tres habían trabajado en cuestiones más amplias de derechos humanos. El año pasado, se les unió Hiba Ahmad, investigadora de 27 años.

Una de las mayores actuaciones de Foxglove se produjo el año pasado, después de que la pandemia forzara la cancelación de los exámenes nacionales de instituto en Reino Unido, que son clave para asegurarse una plaza en las mejores universidades del país. El Gobierno británico diseñó un algoritmo para predecir las calificaciones que los alumnos habrían obtenido, en función de elementos como resultados anteriores y su historial académico.

Foto: Inteligencia artificial. (Imagen de Gerd Altmann en Pixabay) Opinión

Foxglove representó a Curtis Parfitt-Ford, un estudiante sobresaliente de Londres que dijo que el algoritmo podía clasificar a algunos colegios públicos por debajo de los colegios privados del país. En contra del plan organizado, Foxglove lanzó su primer desafío legal en nombre de Parfitt-Ford, le dirigió a entrevistas de prensa y le sugirió que creara una petición que reunió casi 250.000 firmas. El Gobierno abandonó su plan. Ofqual, el órgano regulador que preside la evaluación y concibió el algoritmo se ha negado a hacer declaraciones. En el momento, defendió que la herramienta era justa, pero después se disculpó por generar angustia. En su lugar, permitió a los profesores proporcionar calificaciones predictivas.

Anteriormente, Foxglove había atacado otro algoritmo creado por el Gobierno, que decidía si ciertos inmigrantes podían entrar al país. En su triunfo más decisivo, el grupo denunció al Gobierno, alegando que la herramienta utilizaba la nacionalidad de los solicitantes para evaluar injustamente los fundamentos de sus solicitudes.

placeholder Manifestantes contra el algoritmo del Gobierno de UK. (Reuters)
Manifestantes contra el algoritmo del Gobierno de UK. (Reuters)

El desafío supuso el primer intento de someter un sistema automatizado a revisión judicial en Gran Bretaña, declara Foxglove. Antes de que el caso llegase a los tribunales, el Gobierno dijo que cesaría el uso del algoritmo y revisaría sus sistemas de filtrado de visas en busca de un sesgo. En su respuesta jurídica a Foxglove, el Gobierno británico dijo que los cambios no implicaban necesariamente que aceptaba las acusaciones de parcialidad. Crider declara que, en algunos casos, los instrumentos algorítmicos potentes son poco sofisticados en términos tecnológicos. “El algoritmo de visas que derrumbamos fue un peldaño arriba en una hoja de cálculo”, declara.

El trabajo del grupo ha llamado la atención de líderes de la industria. “El equipo de Foxglove ha demostrado que un grupo de abogadas valientes y hábiles puede tener un impacto muy grande a la hora de desafiar a gigantes tecnológicos”, declara Harry Briggs, socio gerente en Omers Ventures, rama de inversión tecnológica del fondo de pensiones canadiense Ontario Municipal Employees Retirement System.

Crider declara que los trabajadores no recibieron tiempos de descanso adecuados y fueron presionados

El trabajo de Foxglove en cuestiones de derechos para los trabajadores tecnológicos está siendo objeto de atención fuera de su tierra natal. El grupo ha creado una red de trabajadores contratados de Facebook actuales y antiguos con los que debate posibles acciones legales, grupos de presión, sindicalización o proporciona asesoramiento y apoyo jurídico. Muchos de esos trabajadores afirman que su trabajo de revisión de contenido para la plataforma social ha provocado daños psicológicos. Su trabajo implica revisar contenido que puede ser considerado dañino o inapropiado, como propaganda terrorista o pornografía. Ocho de esos trabajadores han iniciado procedimientos legales contra Facebook en Irlanda, alegando un apoyo insuficiente y daños psicológicos.

Crider declara que los trabajadores no recibieron tiempos de descanso adecuados y fueron presionados para tomar decisiones precipitadas sobre el contenido. Una portavoz de Facebook declara que sus supervisores de contenido podían tomar descansos cuando lo necesitaran, sin límite de tiempo, y no se les presionó para que tomaran decisiones precipitadas.

Foxglove consiguió que dos supervisores de contenido se reunieran con el vice primer ministro de Irlanda, que se comprometió a revisar el asunto. También solicitó con éxito al Gobierno irlandés que celebrara una audiencia parlamentaria sobre el asunto en Dublín. Esa audiencia tuvo lugar el miércoles de hace dos semanas.

Foto: (EFE)

El grupo también está trabajando con conductores de Uber en Londres, donde un fallo del Tribunal Supremo les confirió derecho al salario mínimo hace poco. Uber ha declarado que pagaría un salario mínimo a los conductores que llevan pasajeros, pero no mientras esperan un viaje, una interpretación que Foxglove tacha de demasiado limitada. El grupo ha creado una petición de conductores y está sentando las bases para una posible demanda por la aplicación de la sentencia del Tribunal Supremo.

Un portavoz de Uber declara que la interpretación de Foxglove del fallo sobre el salario mínimo podría exigir que pidiera a los conductores que trabajaran por turnos. También dejaría la puerta abierta a la explotación, declara el portavoz, si los conductores simplemente mantienen su aplicación abierta para posibles viajes cuando no trabajan.

Chi Onwurah, miembro del Parlamento encargada de ciencia y tecnología de la oposición al Gobierno, el Partido Laborista, dice que Foxglove estaba ayudando a llenar un vacío. “Habiendo asistido a muchas reuniones con compañías tecnológicas, sé que tienen muchos abogados”, afirma. “La gente común también necesita abogados”.

*Contenido con licencia de ‘The Wall Street Journal’.

Un grupo de defensa de la tecnología formado por cuatro mujeres que obligó al Gobierno británico a deshacerse de un polémico algoritmo para procesar visas y lideró una respuesta popular a una herramienta para predecir calificaciones en selectividad ahora se enfrenta a Facebook y Uber por los derechos de los trabajadores.

Tecnología Derechos humanos Mujeres influyentes
El redactor recomienda