"Facebook monitoriza el suicidio para no perder clientes que pinchen en sus anuncios"

La antropóloga estadounidense Amber Case está en Madrid y las peticiones de entrevista se acumulan. Solamente hoy hará unas dieciocho y mañana unas cuantas más hasta rondar la treintena. ¿A qué se debe este interés? ¿Quizá es porque su nombre recuerda familiarmente al de Amber Chase, una actriz pornográfica también nacida en Portland, Oregon? ¿O será más bien porque esta científica se define como 'antropóloga ciborg' pese a no tener implante biónico alguno en su cuerpo? En cualquier caso, suena a que muchos periodistas saldrán decepcionados de su encuentro con ella.

Presente en la capital para servir de imagen a la reedición de la revista Telos, Case investiga habitualmente en la Universidad de Harvard y el Instituto Tecnológico de Massachussets sobre la interacción entre máquinas y humanos. Suele decir que, hoy en día, "todos somos ciborgs —de ahí la premeditada confusión que le garantiza un hueco mediático— pero no es necesario remontarse a robots humanoides de fantasía: en el presente ya existe suficiente material, real y tangible, para saciar su curiosidad, ojo crítico y ganas de responder a las preguntas de Teknautas.

Opinión

TE PUEDE INTERESAR

Zuckerberg es 'corto', o por qué Elon Musk tiene razón sobre los peligros de la AI

M. A. Méndez

En su libro más reciente, de 2015, desarrolla el concepto de 'calm technology' o tecnología tranquila, donde defiende que los avances tecnológicos deben rodearnos con mucha sutileza y tratar de mejorar nuestras vidas sin interrumpirlas. Por lo observado en los dos últimos años, ¿cree que vamos hacia esa dirección?

No, ahora la tecnología es mucho más invasiva. El concepto 'tecnología tranquila' apareció sobre 1995 y describía un futuro donde el recurso más escaso sería nuestra atención. Ahora estamos en esa era. El padre de la computación ubicua, Mark Weiser, dijo que un día los dispositivos superarían en número a los humanos y la tecnología tranquila era una manera de poder lidiar con todos estos aparatos. Ha pasado lo mismo con la inteligencia artificial, hubo dos grandes 'boom' en los sesenta y en los ochenta y los seguirá habiendo: con todas estas expectativas infladas, principalmente por las películas de ciencia-ficción, sobre un mundo perfecto gobernado por inteligencia artificial y donde se nos olvida que todo eso fue construido por humanos.

Por desgracia, las críticas a la tecnología nunca suelen ser tan sofisticadas, generalmente casi todo el ruido lo hacen los que lo niegan todo o los que la abrazan sin reservas.

En lo que tenemos que centrarnos es en amplificar las mejores cosas que los humanos saben hacer: amor, comprensión, familia, comida, música, relajación, cultura... si nos quitan eso porque tengamos una máquina del futuro que lo haga por nosotros, encontraremos a mucha gente triste o desconectada, y no sabrán por qué. Lo estamos viendo ya en sitios como Silicon Valley, donde la gente tiene botones que pulsas para obtener comida; esa gente olvida que existe un regocijo en cocinar, en disfrutar de una larga sobremesa, en tener a personas de distintas edades a tu alrededor, en construir comunidades, pedir algo a tu vecino o arreglar el fregadero.

Está demostrado que cuando te esfuerzas por obtener algo lo aprecias más, pero si todo lo que haces es pulsar un botón y conseguir comida te estás perdiendo algo, te estás perdiendo tu vida. La parte importante de la 'calm technology' es que era una forma de encajar la tecnología en nuestras vidas y amplificar nuestra humanidad. Como dijo Weiser, necesitamos humanos más inteligentes, no dispositivos más inteligentes, esa noción de la 'tecnología inteligente' es absolutamente ridícula.

Otra de sus obsesiones recientes es con las notificaciones. ¿Por qué no las desactiva?

Yo hice mi tesis sobre teléfonos móviles cuando salió el primer iPhone, y veías a la gente dando golpecitos con los dedos a ese cristal... era como el nuevo cigarrillo. Pero de lo que me di cuenta es de que pronto íbamos a tenerlos en todas partes: ¿qué harían con nuestra atención, qué harían con nuestra experiencia del mundo y sobre todo, cómo nos sentiríamos al llevar uno de estos en el bolsillo todo el rato? En aquella época tampoco estábamos recibiendo alertas, solo en nuestros portátiles, pero cuando escribí el libro de 'Calm Technology' me di cuenta de que estaba escribiendo un libro sobre alertas y notificaciones.

Pero desde que salió el libro se han vuelto omnipresentes.

Y al mismo tiempo, en los últimos dos años, han sido bastantes las empresas tecnológicas que se han reunido para decir 'tenemos una crisis porque recibimos demasiadas notificaciones: ¿Cómo hacemos para que la gente no se desinstale nuestra app? ¿Cómo hacemos para que la gente no se estrelle con su coche?' Nuestro recurso más escaso es la atención y las empresas está encontrando diferentes formas de comprimir esa atención.

¿Los teléfonos se han vuelto más molestos de lo que los usuarios podemos procesar?

Hay una ciencia que estudia precisamente esto, la ergonomía cognitiva. Se asegura de que estas situaciones, por complicadas que sean, no nos sobrepasen como por ejemplo les ocurre a los corredores de bolsa. Seguramente acabaremos desgastándonos con tanta estimulación constante de notificaciones y perderemos creatividad, de hecho ya sufrimos mucho de aplanamiento cultural: miras Instagram y todo el mundo está enseñando las mismas zapatillas Adidas.

Se nota mucho cuando viajas a diferentes países, la comida cambia pero el paisaje cultural es muy parecido, todos escuchamos la misma música independientemente de si somos de clase trabajadora, media o alta, porque la gente que crea esa tecnología para nosotros lo hace ajena a la cultura de cada sitio: son desarrolladores unidimensionales que quieren construir un mundo perfectamente científico, racional y predecible, pero como sabemos, el mundo no es así. Por eso vemos a gente que se acaba yendo a Sudamérica y participando en rituales para encontrar el significado, pero el significado ya estaba ahí, a su alrededor, pero no lo ven porque están centrando su atención en cosas como la automatización, la eficiencia o la longevidad y se les ha olvidado lo que es vivir su vida.

Quizá esto ocurre porque las compañías que más están invirtiendo en inteligencia artificial, como Facebook o Google, están alimentadas por la publicidad. ¿Cómo va a ser posible una tecnología menos invasiva cuando su principal objetivo es tener permanentemente nuestros globos oculares orientados hacia los anuncios que nos ponen?

Piense en las cosas que usa a diario: un secador de pelo, un coche... el principal propósito del coche es tenerte concentrado en la carretera para que no te estrelles. Y las empresas de coches son exitosas, ganan más dinero que Facebook o Google o Apple, sólo nos centramos en estas empresas por su explosivo crecimiento. Pero no todo puede funcionar con anuncios para siempre, hay un límite. Facebook está usando ahora inteligencia artificial para detectar a gente con probabilidades de cometer suicidio, porque si la gente se suicida ellos no tendrán gente para hacer 'clic' en sus anuncios. Por eso están creando este sistema de apoyo mental, para que la gente no se muera, porque Facebook no se puede permitir perder clientes.

Curiosa forma de verlo...

Usted lo está viendo en el periodismo con todos estos modelos que están cambiando. Los anuncios no funcionarán para siempre y hay mucha gente que se está marchando de Facebook porque se sienten deprimidos desde el mismo momento en que se hacen 'log in', o sienten envidia, o se sienten inferiores... son todas estas emociones negativas las que te hacen permanecer más tiempo en la página y pinchar en sus enlaces, pero cuando los usuarios se vuelvan más duchos con la tecnología quizá empiecen a abandonar este tipo de páginas: el verdadero crecimiento del sector está en tecnologías que nos permitan saber más, ver lo que antes era invisible y usar los datos para tomar mejores decisiones sobre nuestra vida.

¿Y quién está desarrollando, es decir, pagando esta tecnología tan estupenda? ¿O quién debería pagarla?

Ahora mismo no es rentable, pero en algún momento será muy lucrativo crear ecosistemas. La industria de la pesca es muy potente, pero si se acaban los peces, todas esas inversiones desaparecerían, por tanto el incentivo en algún momento será invertir en que esa población de peces crezca, que las condiciones del agua mejoren... porque si no, el mercado desaparece, y tienen que proteger sus mercados.

¿Algún ejemplo?

Por ejemplo, Square, esa herramienta para pagos con tarjeta que metes en el agujero de los auriculares es una tecnología super-increíble: consume poco ancho de banda, es crucial y es rentable, pero es aburrido y por eso no nos acordamos. Las 'killer-apps' de la electricidad fueron la lavadora y la nevera, tremendos avances pero que ahora nos parecen aburridos.

No podemos sostener crear un teléfono nuevo cada año, nos quedaremos sin tántalo y cobalto, hay un límite.

Hace años se hablaba del 'valle inquietante', ese rechazo cuando un robot se aproxima demasiado a lo humano. Hoy, sin embargo, vemos a gente enfadada con Siri o Alexa y pegando gritos a su móvil o tablet. ¿Nos hemos saltado algún capítulo en la historia de la robótica?

Nuestra idea de los robots sale de una obra de teatro de 1920, Robots Universales Rossum, y en esta obra iba del hombre contra la industria. Esto confundió nuestra percepción, porque en ficción un robot puede ser perfecto, humanoide. Pero en el mundo real, los humanos tenemos problemas entendiéndonos unos a otros, ¿por qué iba un robot a comprendernos? Algo que no ha crecido, que no ha experimentado esa desmesura de los humanos, de verdad creemos que puede... ¿comprendernos?

Los robots verdaderamente funcionales son como el peluche foca japonés, que se usa con pacientes mayores o con demencia, no te genera ese 'valle inquietante' porque no parece humano. Es cuqui, es una mascota. El problema con querer que los robots parezcan humanos es que nos obliga a nosotros a actuar distinto: tenemos que repetirle a Siri las cosas cuatro o cinco veces si pasa un coche o si tenemos un acento que no sea el inglés americano de California Sin embargo, un SMS siempre es entendido por el sistema, así que hemos tenido que cambiar nuestro comportamiento para trabajar con sus limitaciones. Siempre que el sistema ha intentado ser humano nos ha obligado a detenernos y pensar, por tanto, lo mejor es amplificar aquellas cosas en la que la tecnología es buena, como buscar y ordenar grandes cantidades de datos, y obligarla a hacerlo de un modo invisible para que nosotros tomemos mejores decisiones.

Pero, insisto, Siri habla como una humana y mucha gente la trata como tal, ¿es porque al estar dentro de nuestro teléfono no necesita tener forma o cara humana?

Esos robots que hablan con voces humanas... sí, quizá esperamos poder hablar con ellos a un nivel humano. Es como C3PO y R2D2, el primero sabe doscientos lenguajes humanos pero es aburrido en todos y cada uno de ellos, mientras que R2D2 no habla, pero es cuqui y entendemos universalmente las cosas que dice. No necesita hablar como un humano, sólo amplificar lo que nosotros somos.

Para una antropóloga ésta debe ser una época fascinante: todos nos hemos desdoblado en un yo físico y otro digital, y la interacción entre ambos acaba provocando decepciones e incluso patologías mentales por no lograr ser en la vida real aquello que aparentamos en Twitter o Instagram.

La llamada triple causa de la segunda persona. Tú produces tu propio yo, y con el tiempo acabas viendo a gente producir yos que no son su propio yo, es como un maquillaje digital donde siempre parecen felices pero por detrás se sienten miserables. He conocido mucha gente que, tras alcanzar una fama notable en Instagram se acaban retirando y diciendo "no puedo seguir con esto ni un minuto más" y lo dejan, quemados.

Tenemos que recordar que en redes sociales sólo vemos las partes especiales y no la historia al completo, y esa compulsión por producir tu realidad para otros... no sé dónde nos lleva, pero sin duda cada vez somos más mediáticamente duchos, y ese es el combustible que hace funcionar la maquinaria publicitaria: antes teníamos canales de TV que producían programas donde se colocaban los anuncios y ahora generamos nuestros propios contenidos donde se colocan los anuncios.