mitad humano, mitad robot

Los algoritmos de Google o la Policía manejan tu vida: ¿cómo retomar el control?

Un cambio en el algoritmo de Google Shopping permitió al gigante de las búsquedas mandar de un plumazo a la competencia más allá de la tercera

Foto: (Imagen: E.V)
(Imagen: E.V)

Un cambio en el algoritmo de Google Shopping permitió al gigante de las búsquedas mandar de un plumazo a la competencia más allá de la tercera página de resultados. Hasta que, hace unos días, el Tribunal de Justicia de la Unión Europea castigó con 2.420 millones de euros a la compañía de Mountain View, casi nadie era consciente de la influencia de estas líneas de codigo en nuestro comportamiento como compradores.

En este caso, fueron los rivales de Google los que expusieron ante los tribunales las prácticas anómalas de su competidor para garantizar su privilegiada posición en el mercado. En concreto, los comparadores de precio Foundem o Kelkoo fueron los primeros en demandar a Google en Gran Bretaña, más tarde otros se unieron al pleito en otros países. Sin embargo, en multitud de ocasiones, este tipo de cambios en los algoritmos nos acaban afectando sin que nos demos cuenta.

¿Cómo podemos los ciudadanos, y especialmente los periodistas, hacer responsables a empresas y gobiernos por su manipulación de los algoritmos? Nick Diakopoulos, profesor de periodismo en la Universidad de Maryland, ha hecho precisamente de este asunto su carrera académica.

Nick Diakopoulos, profesor de la Universidad de Maryland.
Nick Diakopoulos, profesor de la Universidad de Maryland.

"De hecho, tras el fallo de la sentencia, la Unión Europea ha anunciado la inversión de diez millones de euros para comenzar a supervisar los resultados de Google", apunta Diakopoulos a Teknautas. El pasado 28 de junio anunciaron la licitación, así que si alguien se anima, puede presentarse a vigilante de Google. "Creo que la monitorización es un excelente punto de partida, porque la sociedad no puede ni siquiera comenzar a responsabilizar a estas empresas sin antes haber observado sistemáticamente sus algoritmos".

Si a estas alturas la palabra aún le suena rara, no se preocupe. Un algoritmo es, básicamente, una orden para ejecutar una serie de fórmulas matemáticas. Si en su calle hay cuatro bares de menú y usted quisiera calcular el precio medio de un menú en esta calle, podría programar una fórmula que obtuviera el precio en cada bar y lo dividiera entre el número de bares existentes, agregando nuevos bares y precios a la lista o quitando los antiguos cuando éstos fueran abriendo o cerrando. Eso sería un algoritmo, una secuencia de pasos que permita obtener una solución al problema.

¿Robótico o humano?

Una de las grandes preguntas sobre los algoritmos es qué parte de ellos es consciente/humana y qué parte es automática/robótica, lo cual es también un problema a la hora de buscar responsables. "Uno de los principales retos es que las decisiones humanas están muy entrelazadas a través del diseño y el funcionamiento del sistema", explica Diakopoulos. Además, la influencia humana en los algoritmos se manifiesta de diversas maneras, "desde cómo se eligen los datos a cómo se enseña a los sistemas de machine learning o qué reglas se dictan al algoritmo para medir factores como la similaridad o la importancia".

(EFE)
(EFE)

Además, en la vida real, o en la virtual, los algoritmos son algo más complejos que en el ejemplo de los bares de menú. Se calcula que Google cambia sus algoritmos entre 500 y 600 veces al año, pero ¿son todos esos cambios igual de importantes? Ni siquiera lo sabemos.

Para Diakopoulos, "un cambio es importante si altera el producto o el resultado de una búsqueda que preocupa al accionista, y puesto que la 'importancia' puede definirse de muchas maneras, dependería de lo que importa y a quién le importa: cualquier cambio que Google haga puede afectar a una empresa, un grupo de empresas, o al público en su sentido más amplio, por ello, en términos de esta monitorización de Google por parte de la UE es muy trascendente quién define esa importancia".

Es decir, que habrá que seguir de cerca a aquella empresa que gane la licitación de la UE para vigilar a Google.

Algoritmos públicos

Las empresas del sector privado no son las únicas que ponen sus algoritmos ahí fuera. Cada vez más frecuentemente, gobiernos o empresas públicas hacen lo propio para recabar datos de los ciudadanos con la excusa de ser más eficientes o mejorar sus servicios. Por ejemplo, en otoño de 2015, Miguel Camacho Collados, un investigador en estadística de la Universidad de Granada y la Policía Nacional presentó un nuevo sistema para mejorar la eficacia del patrullaje policial.

Según explicó en su momento el propio investigador, que desarrolló el modelo junto a la Universidad de California Los Ángeles, el programa "se basa en un algoritmo matemático multicriterio que, teniendo en cuenta distintos factores, como la carga de trabajo, el número de delitos cometidos en el turno policial anterior o el área de patrullaje, asigna a la patrulla un área de vigilancia, previniendo la comisión de delitos en el próximo turno, según una previsión del riesgo de delitos en el territorio".

El creador de Facebook, Mark Zuckerberg, al recibir su título honorario, Doctor en Derecho, durante la ceremonia de graduación de los alumnos de la Universidad de Harvard, en Massachusetts, EEUU. (EFE)
El creador de Facebook, Mark Zuckerberg, al recibir su título honorario, Doctor en Derecho, durante la ceremonia de graduación de los alumnos de la Universidad de Harvard, en Massachusetts, EEUU. (EFE)

Todo suena fantástico, pero... ¿quizá deberíamos tener los ciudadanos acceso a este algoritmo, o incluso la posibilidad de sugerir mejoras para evitar que unos barrios sean discriminados frente a otros?

"Sí", dice Diakopoulos sin dudar. "Creo firmemente que no podemos tener una gobernanza legítima empleando algoritmos si no existe un cierto grado de transparencia alrededor de ese algoritmo y de los datos que lo alimentan". Esto no quiere decir que toda esta información deba ser pública, pero sí que debe haber "un mecanismo en marcha para que esos procesos y esos datos sean auditados y puestos a prueba", explica el profesor. "Esta auditoría podría suceder de una forma controlada y que no sea pública, pero los resultados de la misma sí deben serlo".

Los medios y los algoritmos

Aunque hoy en día los medios son un actor mucho más pequeño que Google, Facebook o Amazon, no sería justo dejarlos fuera del debate. Desde programas para borrar automáticamente comentarios ofensivos a algoritmos, como los de Google News, que ordenan automáticamente las noticias en función de su novedad o impacto, los medios son tan dependientes de la automatización como cualquier otro negocio de internet.

Con la transparencia en los algoritmos, el público podría ver cómo los medios 'saben lo que saben' y esto contribuiría a su respectabilidad

Sin embargo, no comparten las mismas consideraciones éticas. Por ejemplo, ¿hay que darle a un algoritmo responsabilidad sobre las decisiones editoriales? La respuesta a esta pregunta no es sí o no, sino que esto ya lleva ocurriendo desde hace tiempo. "Hay muchas maneras en que los algoritmos apoyan las decisiones editoriales: a través del análisis de datos en investigación, monitorización de datos en redes sociales, producción de contenido automatizada, bots de noticias, interfaces conversacionales, sistemas de personalización o recomendación...", explica Diakopoulos, quien está precisamente preparando un libro al respecto titulado Automatizando las noticias y que verá la luz en Estados Unidos en 2018.

Por último, ¿debemos los medios, que pedimos responsabilidades a las empresas por sus algoritmos, ser tan ejemplares como para publicitar los nuestros? Diakopoulos no está tan convencido. "En Estados Unidos hay una limitación a la hora de regular a los medios de comunicación debido a la primacía de la Primera Enmienda, debido a esto los medios se regulan a sí mismos y además tienen varios mecanismos para hacerlo", expone. No obstante, añade que "con la transparencia en los algoritmos, el público podría ver cómo los medios 'saben lo que saben' y esto contribuiría a su respectabilidad".

Tecnología

El redactor recomienda

Escribe un comentario... Respondiendo al comentario #1
2 comentarios
Por FechaMejor Valorados
Mostrar más comentarios