La autora del libro del año anticipa cómo nos van a controlar en el trabajo
  1. Tecnología
ENTREVISTA CON CARISSA VÉLIZ

La autora del libro del año anticipa cómo nos van a controlar en el trabajo

'Privacidad es poder', coronado por The Economist, llega a España como un ensayo descarnado sobre cómo hemos perdido el control de nuestros datos y sus problemas en todos los frentes de nuestra vida

Foto: Carissa Véliz, filósofa y profesora de Ética Digital en Oxford. (Foto cedida)
Carissa Véliz, filósofa y profesora de Ética Digital en Oxford. (Foto cedida)

Amazon es uno de los mayores empleadores del mundo. A finales de 2020, por efecto de la pandemia, su fuerza se había disparado hasta rozar 1,3 millones de trabajadores fijos, a los que hay que unir decenas de miles de temporales que refuerzan la plantilla en momentos clave del curso, como Navidad o Prime Day. Su capacidad tecnológica unida a la naturaleza de la actividad logística que sostiene gran parte de su negocio (con mano de obra en muchos casos poco cualificada y donde la sindicación no es sencilla) hace que esta compañía se haya convertido en un campo de pruebas perfecto para experimentar nuevos sistemas de vigilancia y control de la productividad que anticipan el futuro del trabajo que nos espera.

La compañía de Seattle ha revisitado varias ocasiones el ojo del huracán por diferentes polémicas generadas por inesperados resultados de sus algoritmos para controlar las cargas de cada empleado o para seleccionar candidatos. Un sistema, este último, que tuvo que ser desconectado porque entró en un bucle machista en el que descartaba automáticamente a las mujeres que se postulaban. Ahora han vuelto a cosechar una ola de críticas por los resultados de unas cámaras que llevan instalando en muchos de sus camiones de reparto en Estados Unidos.

Foto: Un trabajador de Amazon, la empresa que se ha convertido en el mejor campo de pruebas sindical. (Reuters)

Unos equipos equipados con una solución de inteligencia artificial capaz de 'cazar' las pifias del conductor. Si comete más de 5 por cada 100 entregas, son penalizados. El sistema ha empezado a generar cierto pavor entre los empleados. Según cuenta Vice, muchos han empezado a colocar pegatinas o utilizar gafas de sol para evitar que sean castigados.

Pero, ¿qué problema hay en instalar un sistema para evitar que estos repartidores se dejen llevar por las prisas e infrinjan normas al volante? Pues entre otras cosas, denuncian los trabajadores, el criterio y la fiabilidad del sistema. A la mínima que separan los ojos del camino se les computa como infracción por conducir distraídamente e incluso se anotan como fallos los de terceros conductores que adelantan a su furgoneta sin respetar la distancia de seguridad. Estas cosas están conllevando, denuncian los trabajadores, que muchos vean un importante descuento en sus nóminas a modo de correctivo sin merecerlo.

placeholder Foto: Reuters.
Foto: Reuters.

¿Error intencionado o fruto de la falta de entrenamiento de los sistemas? "Quiero pensar que Amazon no lo diseñó así desde el principio, pero me parece bastante claro que una vez está la herramienta activa y se comprueba cómo funciona realmente, no tiene mucho interés en solucionarlo porque sale ganando", opina Carissa Véliz, profesora de Ética Digital de la Universidad de Oxford y autora de ' Privacidad es poder' (Debate, 2021), elegido por The Economist como libro del año y que ahora se traduce al castellano. Se trata de un descarnado ensayo en el que se radiografía cómo hemos perdido el control de nuestra información personal en prácticamente todos los frentes de nuestro día a día, desde el trabajo hasta la salud, y que expresa con meridiana contundencia la única solución posible: desmontar una industria de la vigilancia que se basa en 'traficar' con los datos de millones de personas. "Tienen demasiado poder".

PREGUNTA. ¿Es Amazon un espejo de lo que nos espera en nuestros empleos en unos años?

RESPUESTA. Amazon es una empresa más. Importante y muy grande, pero una más. Hay muchísimas empresas que están experimentando con esto, pero también instituciones o universidades. El ámbito laboral siempre ha sido un laboratorio para experimentar con la tecnología y hay que vigilar mucho que el mundo del empleo no se convierta en un mundo de vigilancia total.

P. Habrá gente que pensará que este tipo de controles están pensados para empleos poco cualificados como un mozo de almacén o para un 'rider' de Glovo o Deliveroo.

R. Es cierto que este tipo de desarrollos se imponen primero a trabajadores que están en situación más precaria por motivos obvios. El problema es que una vez se instala en esos sectores y se normaliza, puede acabar generalizándose y expandiéndose a otras categorías. Todos estamos siendo conejillos de indias y lo realmente alucinante es que cualquier empresa puede diseñar un algoritmo experimental y ponerlo en marcha sin ningún tipo de supervisión.

*********

Cerrar un encuentro con esta experta no es sencillo. Su agenda es apretada. Cuando se cierra un hueco se le ofrece contactar por Zoom o Hangouts. Agua. "¿Tienes Facetime?, pregunta la entrevistada. Respuesta afirmativa. "Evito todo lo que tenga que ver con Google". Toda una declaración que anticipa por dónde puede discurrir la entrevista. Véliz es usuaria de los dispositivos y servicios de Apple. La manzana, aunque suele pasar de puntillas en estos debates y no suele protagonizar escándalos de la talla de los de Facebook, también ha estado en el disparadero en las últimas semanas después de que haya tenido que recoger cable y cancelar sus planes para crear una herramienta que monitorice los teléfonos de sus usuarios para encontrar archivos pedófilos.

placeholder Vista de una furgoneta de Amazon. (Andrew Stickelman)
Vista de una furgoneta de Amazon. (Andrew Stickelman)

"Me pareció un error garrafal por parte de Apple", explica la docente. "Es muy complicado porque con los niños no hay debate. Todos queremos protegerlos. Pero hay que tener en cuenta que cuando se desarrolla una herramienta se puede utilizar de muchas maneras, raramente algo así esta pensado para un solo uso", argumenta, a la vez que señala que puede suponer una importante puerta trasera. "Una vez activas la herramienta, te pueden pedir que la utilices con otros fines. Si China te obliga a que identifiques contenido de disidentes, ya no puedes decir que no existe esa opción".

Nos escandalizamos por FB pero no lo dejamos

Véliz aborda en su libro lo que los investigadores han bautizado como "paradoja de la privacidad". Lo habrán visto estos días. Si esto fuese la Edad Media, una muchedumbre se levantaría con antorchas en mano e iría a pegar fuego a Facebook tras las últimas informaciones sobre cómo manipulaban los algoritmos y fomentaban presuntos discursos de odio. Pero como estamos en el siglo XXI lo que ocurre es que en Twitter y otras redes se acumulan las diatribas contra la empresa de Zuckerberg. Todo el mundo pone el grito en el cielo cuando se dan episodios similares con Google o Amazon.

Foto: Foto: Reuters

Sin embargo, estas empresas no dejan de sumar nuevos clientes y usuarios y no dejan de batir récords de ingresos cada dos por tres y multiplicar su valor. Un buen ejemplo es Facebook. En el último lustro ha protagonizado varios dramas. El escándalo de Cambridge Analitica, problemas de discursos de odio y fake news, filtraciones sobre sus malas prácticas. ¿Qué ha ocurrido en los mercados? La compañía vale hoy un 157% más.

P. ¿Nos la trae al fresco la privacidad?

R. La realidad es compleja. No es que no nos preocupe la privacidad, es que, en parte, estamos atrapados. A raíz de la pandemia, se ha esfumado la ilusión de que la tecnología era algo voluntario, que era un opción. Ahora es evidente que si uno quiere vivir en sociedad y no totalmente aislado hace falta interactuar con la tecnología. A partir de ahí se produce una serie de circunstancias. No tenemos suficientes opciones, en parte es falta de conocimiento, intereses financieros, gobiernos que se benefician o se creen que se benefician por tener acceso a los datos de sus ciudadanos.

P. Bueno, en realidad siempre nos dijeron que si no éramos algo así como un depravado sexual o un delincuente no nos teníamos que preocupar. Eric Schmidt, ex CEO de Google, decía que los que se inquietaban por la privacidad era porque tenían algo que esconder.

R. El caso de Eric Schmidt es poco menos que curioso. Él mismo pidió a Google que retirasen información personal de los resultados. Es un argumento de marketing llamativo pero ya. Todo el mundo tiene algo que esconder. A veces no sabes qué es lo que tienes que esconder pero sin saberlo estás siendo vigilado y, por tanto, puedes ser discriminado. Tu teléfono puede llegar a inferir, como se ha demostrado en varias investigaciones, si eres susceptible de desarrollar una enfermedad mental grave solo por como tocas la pantalla. Si eso acaba en una aseguradora pueden discriminarte a la hora de contratar un seguro o pedir un préstamos. Tu información económica puede hacer que dentro de unos años te discriminen a la hora de alquilar un apartamento. Hay miles de 'brokers' de datos vendiendo información de millones de personas. Tu religión, tus tendencias políticas o tu orientación sexual pueden acabar en manos de la empresa que quieres que te contrate. Ellos simplemente te dicen: 'no encajas'. Y tu no puedes saber que te están discriminando. Incluso no hace falta que hagas algo mal. Hay ciberdelicuentes esperando un error para cazar tus claves, tus datos y mucho más.

Foto: Los fundadores de IUVA. (Foto: Noelia Alpe)

P. Qué lejos parece quedar eso de que a menos privacidad, más seguridad.

R. Todo lo contrario. Hay países y lugares con altos niveles de inseguridad en América Latina donde tienen muy claro que la mejor forma de estar seguros es cuidar tu privacidad y no al revés.

El comienzo del caos: publicidad dirigida

Carissa Véliz sitúa el comienzo de todo este desmadre en la publicidad contextual y los anuncios personalizados, un auténtico proceso extractivo que se alimenta de los datos que generan millones y millones de usuarios. Y esta es, sin lugar a dudas, una de las voces más beligerantes en este mundillo a la hora de proponer soluciones para volver al punto de partida y devolvernos la tutela efectiva de nuestra información personal. Ella aboga por una regulación que desmonte esta industria, impidiéndoles hacer uso de los registros creados hasta ahora.

Pero, ¿hablamos de hechos consumados o es posible reparar el daño causado? Ella está convencido que es posible recuperar la tierra quemada. "Se les puede obligar a borrar los datos innecesarios, demandar que no puedan usar algoritmos con datos que no corresponden ... Es un poco desesperante la imagen de que los gigantes tecnológicos están más allá de la ley. En realidad hemos sido capaces de regular otras industrias. Ferrocarriles, automóviles, aviones, empresas petroleras... Las tecnológicas no tienen porqué ser más complejas".

Foto: Los anuncios personalizados ya son una realidad (FOTO: CC/Flickr/Pablo F.J.)

P. Con tantos intereses en juego y tratándose de compañías que mueven decenas de miles de millones de euros anualmente, ¿es realista querer atarlas en corto y cargarse una industria así?

R. Es importante distinguir entre empresas. Yo no voy a decir que Apple o Amazon sean santos ni mucho menos, pero podrían sobrevivir perfectamente sin comerciar con la información de sus usuarios. Otra cosa son las empresas cuyo modelo depende enteramente de los datos personales. Hay que prohibir su compraventa. De la misma manera que no compramos la información sanitaria, no compramos los resultados del fútbol no deberíamos comprar información personal.

P. Europa fue muy ambiciosa con el Reglamento de Protección de Datos. Sin embargo, hace unas semanas se publicó que la mayoría de investigaciones están en punto muerto por la inacción de la autoridad irlandesa.

R. Europa ha sido pionera en regular la era digital. El RGPD, con todos sus fallos, fue innovador. Consideramos a EEUU una potencia por su proeza tecnológica, pero nos olvidamos que regular también es un tipo de poder. Europa tiene mucha más experiencia en regular. Pero también necesitamos que EEUU mueva ficha, porque es probablemente uno de los pocos países occidentales sin una ley federal de privacidad.

placeholder Mark Zuckerbeg. (Reuters)
Mark Zuckerbeg. (Reuters)

P. ¿En qué ha fallado Europa?

R. La ley tiene limitaciones y algunas lagunas. Por ejemplo, permite recolectar datos personales sin consentimiento siempre que haya un interés legítimo. Eso puede significar cualquier cosa. El problema es que no se concreta. Las empresas lo interpretan a su manera y como no tenemos recursos para perseguirlo se llega a la actual situación. Si actualizasemos la ley y el usuario no tuviera que oponerse a la recolección sino hacer el esfuerzo de autorizarla, cambiaría toda la dinámica de la economúa de los datos. Tendríamos menos recolección y por tanto sería más fácil perseguirlo.

P. Hemos hablado mucho de empresas, pero, ¿qué ocurre con los gobiernos?

R. De la misma manera que las personas cuando tienen malas experiencias con la privacidad se hacen conscientes de los peligros para la privacidad, los gobiernos y las agencias de inteligencia se están dando cuenta que tener tantos datos personales acumulados de su población es un riesgo para la seguridad nacional. Hemos visto además episodios que han demostrado el daño que pueden causar desde el punto de vista democrático como el escándalo de Cambridge Analitica o ciertas injerencias de Rusia con las 'fake news' dirigidas.

Foto: Foto: Reuters. Opinión

P. Esta idea que usted me cuenta choca frontalmente con la imagen de que muchas ciudades se están llenando de cámaras de seguridad.

R. A mí me preocupa bastante. En Inglaterra es bastante aterrador. Por muchas razones no sabemos quén puede estar viendo ese vídeo, cuánto tiempo se guarda... Además en el mundo que vivimos todos los datos que se recolectan son potencialmente 'hackeables'. ¿Quién nos garantiza que si la seguridad de esos archivos se va a ver vulnerada vamos a ser conscientes? Además, detrás de esas cámaras está el hecho de que se está construyendo una arquitectura de la vigilancia. Si tenemos un gobierno súper benévolo no es grave, pero si eso cambia hay una estructura creada muy potente para seguirnos la pista.

Foto: Gabriel Weinberg, creador y CEO del buscador privado DuckDuckGo. (Foto cedida)

P. ¿Me preocupo más por las cámaras de mi barrio o por lo que tenga instalado en el móvil?

R. Es una buena pregunta. Realmente, me preocupa más lo que tenga en el móvil. Es mucho más informativo, te sigue todo el día, no solo en una esquina. Puede hasta escuchar tus conversaciones, es algo increíblemente invasivo.

P. Tampoco puedo esperar años a que regulen esta situación. ¿Qué hago? ¿Hay soluciones a nivel individual?

R. No uses Google, utiliza un buscador como DuckDuckGo. No uses WhatsApp, utiliza Signal. No uses Gmail, usa Protonmail. Para prácticamente cualquier app que necesites hay alternativas respetuosas con la privacidad. Y respeta cosas como tu email. Si no le das tu número de teléfono a cualquiera, ¿por qué hacerlo con tu dirección de correo?

Privacidad
El redactor recomienda