Las confesiones del 'topo' de Facebook: “No odio a la compañía. Quiero salvarla”

La antigua empleada de Facebook que recopiló los documentos que constituyeron la base de la serie ‘Facebook files’ de ‘The Wall Street Journal’ dice que actuó para ayudar a impulsar el cambio en el gigante de las redes, no para suscitar odio hacia la compañía.

Frances Haugen, exjefa de Producto contratada para ayudar a impedir injerencias en las elecciones en Facebook, dice que se había frustrado cada vez más por lo que veía, como la falta de transparencia de la compañía sobre la capacidad para ocasionar daños de sus plataformas y su falta de disposición para solucionar sus deficiencias. Está previsto que preste declaración ante el Congreso este martes. También ha solicitado protección federal de denunciante a la Comisión de Valores y Bolsa (SEC, por sus siglas en inglés).

En una serie de entrevistas, Haugen, que dejó la empresa en mayo después de casi dos años, dice que había llegado al puesto con la esperanza de ayudar a Facebook a solucionar sus deficiencias. Pronto empezó a dudar de que su equipo pudiera lograr un impacto, afirma. Su equipo tenía pocos recursos, dice, y sentía que la empresa situaba el crecimiento y la participación del usuario por delante de lo que sabía a través de su propia investigación sobre los efectos perjudiciales de sus plataformas.

TE PUEDE INTERESAR

'Facebook files': así permite la red social que los usuarios vip acosen y difundan bulos

The Wall Street Journal Jeff Horwitz Deepa Seetharaman Georgia Wells

En su última etapa en Facebook, dice Haugen, empezó a creer que la gente externa a la compañía —incluidos legisladores y reguladores— debía saber lo que había descubierto. “Si la gente solamente odia más a Facebook por lo que he hecho, entonces he fracasado”, afirma. “Creo en la verdad y la reconciliación —tenemos que admitir la realidad—. El primer paso para ello es la documentación”.

En un comunicado escrito, el portavoz de Facebook, Andy Stone, declara: “Todos los días, nuestros equipos deben equilibrar la protección de los derechos de miles de millones de personas a expresarse libremente y la necesidad de mantener nuestra plataforma como un lugar seguro y positivo. Seguimos realizando mejoras considerables para combatir la propagación de desinformación y el contenido nocivo. Sugerir que fomentamos el contenido ilícito y no hacemos nada simplemente no es cierto”.

Haugen, de 37 años, dimitió de Facebook en abril. Se quedó un mes más para entregar algunos proyectos. También buscó en la red social interna de la compañía, llamada Facebook Workplace, casos en los que creía que la empresa no había conseguido ser responsable con el bienestar de los usuarios.

TE PUEDE INTERESAR

'Facebook files': así permite la red social que los usuarios vip acosen y difundan bulos

The Wall Street Journal Jeff Horwitz Deepa Seetharaman Georgia Wells

Dice que lo que encontró le sorprendió. La serie del ‘WSJ’, basada en parte en los documentos que recopiló, así como en entrevistas con empleados antiguos y actuales, describe cómo la normativa de la compañía favorece a las élites; cómo sus algoritmos fomentan la división, y cómo los cárteles de droga y traficantes de personas utilizan sus servicios de forma visible. Un artículo sobre los efectos que provoca Instagram en la salud mental de las chicas adolescentes sirvió de impulso para una audiencia ante un subcomité del Senado la semana pasada, en la que los legisladores describieron los descubrimientos como un "bombazo".

Haugen esperaba que la descubrieran, dice, ya que analizó miles de documentos durante varias semanas. Facebook registra la actividad de los empleados en Workplace, y ella estaba investigando partes de su red que, si bien eran públicas, no estaban relacionadas con su trabajo.

Declara que empezó a pensar en dejar mensajes al equipo interno de seguridad de Facebook para cuando revisaran inevitablemente su actividad de búsqueda. Se llevaba bien con la mayoría de sus compañeros, dice, y sabía que algunos se sentirían traicionados. Sabía que la empresa también, pero pensó que lo que estaba en juego era tan importante que tenía que alzar la voz, afirma. El 17 de mayo, poco antes de las siete de la tarde, se conectó por última vez y escribió su último mensaje en la barra de búsqueda de Workplace para intentar explicar sus motivaciones.

“No odio Facebook”, escribió. “Adoro Facebook. Quiero salvarlo”

Seguir las normas

Haugen nació y creció en Iowa, hija de padre médico y madre que dejó atrás su carrera académica para convertirse en sacerdotisa episcopal. Dice que le enorgullece ser una persona que obedece las normas. Durante las últimas cuatro celebraciones del Burning Man, festival anual del desierto popular entre la escena tecnológica y artística del Área de la Bahía, trabajó como guarda, mediando en conflictos y aplicando la normativa comunitaria de seguridad.

Haugen había trabajado previamente en Google, de Alphabet, Pinterest y otras redes sociales, y se había especializado en diseñar algoritmos y otras herramientas que deciden qué contenido se muestra a los usuarios. Google le financió un máster en Administración de Empresas en Harvard. Volvió a la empresa en 2011 y poco después empezó a combatir una enfermedad autoinmune.

“Volví de la escuela de negocios e inmediatamente empecé a decaer”, declara. Al principio, los médicos estaban confundidos. Cuando le diagnosticaron celiaquía, había soportado un daño constante en los nervios de manos y pies, lo que le había causado dolor. Pasó de montar en bicicleta hasta 160 km al día a tener dificultades para moverse.

“Muchas personas que trabajan en esos productos solo ven el lado positivo de las cosas”

Haugen dejó Google a principios de 2014. Dos meses después, un coágulo en su muslo hizo que acabara en la unidad de cuidados intensivos. Un conocido de la familia contratado para asistirle con los recados se convirtió en su principal compañía durante un año, que pasó en gran medida confinada en casa. El joven hacía la compra, la llevaba a las citas médicas y la ayudaba a recuperar la capacidad de caminar. “Fue una amistad muy importante, y después le perdí”, dice.

Su amigo, que había mantenido una opinión política liberal, pasaba cada vez más tiempo leyendo foros ‘online’ sobre cómo las fuerzas oscuras estaban manipulando la política. En una entrevista, el hombre recuerda que Haugen intentó intervenir a medida que gravitaba hacia una mezcla entre el ocultismo y el nacionalismo blanco sin éxito. Él puso fin a su amistad y se marchó de San Francisco antes de abandonar posteriormente sus creencias, declara.

La salud de Haugen mejoró, y volvió a trabajar. Pero la pérdida de su amistad cambió la forma en que percibía las redes sociales, afirma.

“Una cosa es estudiar la desinformación y otra es perder a alguien por ello”, dice. “Muchas personas que trabajan en esos productos solo ven el lado positivo de las cosas”.

TE PUEDE INTERESAR

Depresión e ideas suicidas: Instagram es tóxico para las adolescentes y Facebook lo sabe

The Wall Street Journal Jeff Horwitz

Contratada

Cuando un seleccionador de Facebook se puso en contacto con ella a finales de 2018, declara Haugen, contestó que podría estar interesada si el trabajo trataba la democracia y la distribución de informaciones falsas. Durante las entrevistas, dice, contó a sus ‘managers’ el caso de su amigo y cómo quería ayudar a Facebook a evitar que sus propios usuarios siguieran caminos similares.

Empezó en junio de 2019 como parte del equipo de Integridad Cívica de casi 200 empleados, que se centraba en cuestiones en torno a las elecciones en todo el mundo. Si bien era una pequeña parte de los esfuerzos de vigilancia globales de Facebook, el equipo se convirtió en actor central a la hora de investigar cómo la plataforma podría difundir falacias políticas, avivar la violencia y ser objeto de abuso por parte de gobiernos malintencionados.

Al principio, pidieron a Haugen que desarrollara herramientas para estudiar la focalización nociva de información en comunidades específicas. Su equipo, formado por ella y otros cuatro nuevos empleados, tuvo tres meses para diseñar un sistema que detectara la práctica, plazo que ella consideraba inverosímil. No lo consiguió, y recibió una mala evaluación inicial, afirma. Recuerda a un alto cago diciéndole que los trabajadores de Facebook consiguen lo que tienen que hacer con muchos menos recursos de los que nadie creería.

A su alrededor, veía grupos pequeños de empleados enfrentándose a grandes problemas. El equipo central responsable de detectar y combatir la explotación humana —que incluía la esclavitud, la prostitución forzada y la venta de órganos— incluía a unos pocos investigadores, declara. “Pregunté por qué no se contrataba a más personas”, dice. “Facebook actuó como si fuera incapaz de dotar de personal a dichos equipos”.

Stone, portavoz de Facebook, dice: “Hemos invertido mucho en personal y tecnología para mantener nuestra plataforma segura, y hemos convertido la lucha contra la desinformación y la aportación de información fidedigna en prioridades”.

Haugen dice que la empresa parecía no estar dispuesta a aceptar iniciativas para mejorar la seguridad si eso dificultaba el atraer a usuarios y hacer que participaran, lo que la desmotivaba a ella y a otros empleados.

“¿Qué hicimos? Desarrollamos un mecanismo enorme que optimizaba la participación, fuera o no real”, dice una presentación del equipo de Integridad de Conexiones, grupo multitudinario que tenía la tarea de “crear un ecosistema de contenido público sano”, de otoño de 2019. La presentación presentaba la desinformación viral y la violencia social entre los resultados. Haugen llegó a verse a sí misma y al equipo de Integridad Cívica como un grupo de limpieza falto de personal.

TE PUEDE INTERESAR

Facebook descartó medidas para reducir la polarización para retener a los usuarios

The Wall Street Journal Keach Hagey Jeff Horwitz

Le preocupaban los peligros que podía plantear en sociedades que conseguían acceso a internet por primera vez, declara, y vio el genocidio de Myanmar nutrido por las redes sociales como un modelo, no una casualidad. Habló sobre sus preocupaciones con su madre, la sacerdotisa, que le advirtió de que, si pensaba que había vidas en juego, debía hacer lo que estuviera en su mano para salvar dichas vidas.

Stone, de Facebook, dice que el objetivo de la compañía era proporcionar una experiencia segura y positiva a sus miles de millones de usuarios. “Albergar contenido ofensivo o nocivo es perjudicial para nuestra comunidad, perjudicial para los anunciantes y, en última instancia, perjudicial para nuestro negocio”, declara.

El 2 de diciembre de 2020, el fundador y jefe del equipo, Samidh Chakrabarti, convocó una reunión por videoconferencia de todo el equipo. Desde su piso en San Francisco, Haugen le escuchó anunciar que Facebook iba a disolver el equipo y reorganizar a sus miembros en otras partes del Departamento de Integridad de la compañía, el grupo más amplio encargado de mejorar la calidad y la fiabilidad del contenido de la plataforma.

Chakrabarti elogió lo que el equipo había conseguido “a expensas de nuestra familia, nuestros amigos y nuestra salud”, según Haugen y otra persona presente en la reunión. Anunció que iba a pedirse una excedencia para reponerse, pero instó a sus empleados a que siguieran luchando y se expresaran “de forma constructiva y respetuosa” cuando vieran que Facebook corría el riesgo de situar los intereses a corto plazo por encima de las necesidades a largo plazo de la comunidad. Chakrabarti dimitió en agosto. No ha querido hacer declaraciones para este artículo.

Esa tarde, después de la reunión, Haugen envió un mensaje encriptado a un periodista del ‘WSJ’ que la había contactado semanas antes. Dado su trabajo en un equipo que se centraba en parte en el contraespionaje, fue especialmente precavida y le pidió que demostrara su identidad.

"Tenemos un largo historial de cooperación eficaz con las fuerzas del orden"

El asalto al Capitolio de EEUU llegó semanas después, y dice que le aterró que Facebook minimizara públicamente su vínculo con la violencia a pesar de una preocupación interna generalizada porque sus plataformas estaban permitiendo movimientos sociales peligrosos.

Stone, de Facebook, tachó cualquier insinuación de que la empresa provocó el asalto de absurda, alegando el papel de figuras públicas al alentarlo. “Tenemos un largo historial de cooperación eficaz con las fuerzas del orden, incluidas las agencias responsables de combatir las amenazas de terrorismo interno”, declaró.

En marzo, Haugen se marchó del Área de la Bahía para fijar su residencia en Puerto Rico, ya que esperaba seguir trabajando para Facebook en remoto.

Foros abiertos

Haugen esperaba que no quedaría mucho en Facebook Workplace sobre lo que no se hubiera escrito ya o que no se hubiera escondido. Workplace es una fuente habitual de filtraciones, y durante años la empresa ha limitado el acceso a material confidencial.

Para su sorpresa, descubrió que se habían publicado documentos con privilegio cliente/abogado en foros abiertos. También se habían publicado presentaciones ante el CEO Mark Zuckerberg—a veces en forma de borrador, con notas de altos directivos de la compañía incluidas—. Prácticamente cualquiera de los más de 60.000 empleados de Facebook podría haber accedido a los mismos documentos, declara.

Para orientar su análisis, Haugen dice que siguió la trayectoria profesional de compañeros a los que admiraba, supervisando sus experimentos, notas de investigación y actuaciones propuestas. A menudo el trabajo terminaba en ‘badge posts’ frustrados, notas de despedida que incluían denuncias del fracaso de Facebook para asumir responsabilidad por los daños que provocaba, indica. Los arcos profesionales de los investigadores se convirtieron en un marco para el material que a la larga se proporcionaría a la SEC, a miembros del Congreso y a ‘The Wall Street Journal’.

“Imagina descubrir que tu producto está perjudicando a la gente. Te haría incapaz de ver y corregir dichos errores”

Cuanto más leía, dice, más se preguntaba si era incluso posible desarrollar sistemas de recomendación automatizados de forma segura, un pensamiento desagradable para alguien cuya carrera profesional se basaba en diseñarlos. “Siento mucha compasión por la gente que se pasa la vida trabajando en esas cosas”, dice. “Imagina descubrir que tu producto está perjudicando a la gente, te haría incapaz de ver y corregir dichos errores”.

El traslado a Puerto Rico puso fin a su etapa en Facebook antes de lo que tenía planeado. Haugen dice que el departamento de Recursos Humanos le dijo que no podía albergar a nadie que se mudara de territorio estadounidense. A mediados de abril, accedió a dimitir al mes siguiente.

Haugen siguió recopilando material desde el interior de Facebook hasta su última hora con acceso al sistema. Contactó con abogados de Whistleblower Aid, organización sin ánimo de lucro de Washington DC que representa a personas que informan de comportamientos inmorales por parte de empresas y gobiernos.

Además de su próximo testimonio ante el Senado y su solicitud de denunciante ante la SEC, dice que está interesada en colaborar con fiscales generales del Estado y reguladores europeos. Aunque algunos han declarado que Facebook está destruido o desprovisto de protecciones de responsabilidad de contenido, no está de acuerdo. Ninguno de esos enfoques abordaría los problemas desvelados en los documentos —afirma que, a pesar de numerosas iniciativas, Facebook no abordó ni dio a conocer lo que sabía sobre los efectos nocivos de sus plataformas—.

TE PUEDE INTERESAR

Nuevo varapalo para Facebook: la red social priorizó sus ganancias sobre el bien público

El Confidencial

Stone, de Facebook, declara: “Tenemos un sólido historial de uso de nuestras investigaciones —así como investigaciones externas y colaboraciones estrechas con expertos y organizaciones— para efectuar cambios en nuestras aplicaciones”.

Según Haugen, permitir a personas externas ver las investigaciones y operaciones de la compañía es esencial. También aboga por una simplificación radical de los sistemas de Facebook y por limitar la promoción de contenido en base a niveles de interacción, aspecto central de los sistemas de recomendación de Facebook. Las propias investigaciones de la empresa han descubierto que “la desinformación, la toxicidad y el contenido violento son excesivamente predominantes” en materiales compartidos por usuarios y promovidos por los mecanismos internos de la compañía.

“Siempre que tu objetivo sea generar una mayor interacción, mejorar los ‘likes’, la difusión y los comentarios, vas a seguir priorizando el contenido divisorio y ofensivo”, declara.

Por lo demás, tiene algunas ideas de negocio que le gustaría desarrollar —y le gustaría pensar en algo aparte de Facebook—. “He hecho un muy buen trabajo averiguando cómo ser feliz”, afirma. “Hablar todo el rato de las cosas que te entristecen no es el camino para conseguir la felicidad”.

*Contenido con licencia de ‘The Wall Street Journal’.