'Do you trust this computer?’

He visto el documental viral de Musk sobre inteligencia artificial, y sí, da mucho miedo

El magnate, Nolan y numerosos investigadores participan en una cinta sobre el futuro de la inteligencia artificial que pone los pelos de punta

Foto: Elon Musk. (Reuters)
Elon Musk. (Reuters)

Capaz de vender miles de lanzallamas para The Boring Company (La Empresa Aburrida) o de enviar un coche al espacio y dejarnos boquiabiertos, Elon Musk ha demostrado en incontables ocasiones ser un maestro del ‘marketing’. Por eso, cuando el magnate recomendó ver un documental sobre inteligencia artificial en el que, además de hablar, presumió de haber pagado para que su visionado fueron gratuito unos días, muchos le hicieron caso (en concreto, 5 millones de personas en día y medio, según el propio Musk).

Yo también seguí su consejo para disfrutar (y en varios momentos sufrir) de ‘Do you trust this computer?’ (‘¿Confías en tu ordenador?’). Con ese percal, estaba expectante por escuchar nuevas sentencias apocalípticas sobre el futuro de los robots a las que el CEO de Tesla nos tiene tan acostumbrados, críticas más recientes a los de su propia fábrica aparte. En ese sentido, la cinta no me defraudó, porque perlas hay unas cuantas.

De decirnos que una inteligencia artificial “no tiene que ser malvada para destruir la humanidad” (podríamos ser hormigas para ella, una metáfora utilizada ya por otro padre de las redes neuronales) a advertirnos que la controlada por las personas equivocadas podría transformarse “en un dictador inmortal del que nunca podríamos escapar”, Musk sigue empeñado en convencernos de que los robots podrían ser nuestra última criatura.

Excesivo clima dramático

Sin embargo, el documental dirigido por Chris Paine prometía mucho más que esas frases pesimistas con tan solo echar un vistazo a sus entrevistados, entre los que figuran algunos de los más reputados expertos de la inteligencia artificial. Y en parte cumple la promesa. Los investigadores nos explican los retos a los que nos enfrentamos de forma sencilla durante más de una hora, sin meterse de lleno en los aspectos técnicos de las complejas redes neuronales.

Está pensado para todos los públicos, y eso se agradece teniendo en cuenta la materia. Además, no nos deja un segundo para el aburrimiento. Pero el excesivo clima dramático que crea puede ser precisamente uno de los problemas de este documental en el que se ponen sobre la mesa, una tras otra y sin dejarnos respirar otra cosa que tensión, numerosas amenazas de las máquinas.

La música inquietante hace aún más preocupantes los argumentos, las entrevistas se mezclan con imágenes de ‘Terminator’, ‘Matrix’ y ‘Ex Machina’ y el montaje hace que hasta unos fotogramas de aburridos servidores nos intimiden como si fueran a rebelarse contra nosotros en cualquier momento. Analizamos los puntos fuertes y débiles (en nuestro humilde juicio mortal) de este documental que nos deja con el miedo en el cuerpo.

Un festín (descompensado) de expertos

Andrew Ng (fundador y exlíder del proyecto de ‘deep learning’ Google Brain y exjefe científico de Baidu), Sebastian Thrun (exlíder de la creación del coche autónomo de Google), Eric Horvitz (director de Microsoft Research Labs), David Ferrucci (exlíder del equipo de investigación IBM Watson)... Entre los 26 entrevistados del documental, son muchos los reputados expertos y se nota el inmenso esfuerzo porque todos participen sin crear confusión.

Sin embargo, sorprende que, frente a sus pequeñas intervenciones, uno de los que más peso tenga en ‘Do you trust this computer?’ no sea investigador. Jonathan Nolan (coguionista de ‘El caballero oscuro’ o ‘Interstellar’ y cocreador de ‘Westworld’) ejerce casi de hilo conductor de la cinta, asustándonos desde el comienzo: a su juicio, las películas de ciencia ficción nos han alarmado tanto que incluso parece “tonto” hablar del futuro de la inteligencia artificial… pero no lo es, y el “público general está a punto de quedarse con los ojos como platos”.

 El debate sobre los robots autónomos es uno de los que plantea el documental (Foto: Westworld)
El debate sobre los robots autónomos es uno de los que plantea el documental (Foto: Westworld)


Mientras aguardamos el estreno de la tan esperada segunda temporada de ‘Westworld’, donde precisamente los robots sometidos comienzan a despertar, los fans de la serie de HBO, como servidora, disfrutarán descubriendo los pensamientos de su artífice como aperitivo. “Hemos abierto la caja de Pandora, hemos desatado fuerzas que no podemos controlar, no podemos detener… Vamos camino de crear básicamente una nueva forma de vida en la Tierra”. Pero, si esto es un documental serio, ¿por qué en medio de un desfile de expertos ocupa un lugar privilegiado este célebre cineasta tan amigo de Musk?

Sorprende que el papel de mayor peso sea el de Nolan, un cineasta y no un experto

Por otro lado, dos de los investigadores entrevistados están detrás, como el magnate, del Instituto del Futuro de la Vida, una organización creada para mitigar “riesgos existenciales” como la inteligencia artificial: el prestigioso profesor Stuart Russell y el físico Max Tegmark, autor de un libro también recomendado por Musk sobre lo que sucederá cuando la inteligencia artificial supere a la humana, y en el que al menos hay unos cuantos escenarios utópicos.

Palos varios a Google y Facebook

Con excepción de las muy puntuales intervenciones de Ray Kurzweil, futurólogo, director de ingeniería de Google y defensor de la idea de singularidad, que hace referencia al momento en que nos fusionaremos con las máquinas, en el documental no participan investigadores destacados de la firma del todopoderoso buscador. Pese a ello, el gigante es uno de los protagonistas del film: no en vano, está apostando muy fuerte por la inteligencia artificial y su propio CEO cree que esta tecnología va a ser más importante que la electricidad o el fuego.

Más allá de alguna crítica lógica a la dominación, la cosa se va de madre cuando Musk empieza a hablar de DeepMind, la empresa británica que Google compró por la friolera de 400 millones de euros y que creó hace un par de años el algoritmo que derrotó al campeón mundial de Go. El empresario afirma que el acceso de DeepMind a los ‘data centers’ de Google podría ser “un caballo de Troya” involuntario: “Una inteligencia artificial podría tomar el control completo de Google, lo que significa [...] echar un vistazo a todos tus datos y hacer cualquier cosa”.

Google podría ser “un caballo de Troya” involuntario. Así lo ve Musk

Aunque ya sabemos que el futuro de la inteligencia artificial también es un tema que enfrenta a Musk y Zuckerberg, es Nolan el que se muestra en el documental crítico con Facebook, que no pasa por su mejor momento tras el escándalo de Cambridge Analytica y cuyos expertos tampoco participan en la cinta. A juicio del cineasta, que su algoritmo guíe nuestro entendimiento de la realidad “es terriblemente peligroso”, pero que hayamos permitido “que actores de mala fe accedan a esa información” es “una receta para el desastre”.

Jonathan Nolan critica a Facebook en el documental (Gage Skidmore | Flickr)
Jonathan Nolan critica a Facebook en el documental (Gage Skidmore | Flickr)

Destacan las intervenciones de Michal Kosinski, profesor de la Universidad de Stanford y coautor de un famoso ‘paper’ que mostraba cómo los ‘me gusta’ de Facebook podían ser usados para predecir con precisión un amplio rango de atributos personales.

Según ‘The Guardian’, Kosinski, que por aquel entonces trabajaba en la Universidad de Cambridge, rechazó negociar con la compañía matriz de Cambridge Analytica. No lo hizo así uno de sus colegas, Aleksandr Kogan, que se basó en el trabajo de sus compañeros para crear la herramienta que permitiría recopilar 50 millones de perfiles de Facebook.

Uno de los expertos avisa: si la IA llega revelar datos personales es "asunto de vida o muerte"

Pero Kosinski va más allá de afirmar que él vio venir lo que podía suceder: aventura que si la inteligencia artificial permite “revelar las opiniones religiosas, políticas o la orientación sexual basándose en las fotos de perfil [un tema sobre el que él mismo publicó un polémico estudio], podría ser un problema de vida o muerte” en los países menos abiertos.

Estemos más o menos de acuerdo con los argumentos y predicciones de cada cual, lo cierto es que este documental nos recuerda que los datos son el petróleo de internet y los gigantes controlan ingentes cantidades de información personal. Nada nuevo bajo el sol, pero viene bien tenerlo presente.

Demasiados dramas

SpaceX founder Elon Musk speaks at a press conference following the first launch of a SpaceX Falcon Heavy rocket at the Kennedy Space Center in Cape Canaveral, Florida, U.S., February 6, 2018. REUTERS Joe Skipper
SpaceX founder Elon Musk speaks at a press conference following the first launch of a SpaceX Falcon Heavy rocket at the Kennedy Space Center in Cape Canaveral, Florida, U.S., February 6, 2018. REUTERS Joe Skipper

“Eres mi creador, pero yo soy tu dueño: ¡obedece!”. Con esa frase escrita por Mary Shelley en ‘Frankenstein’ arranca este documental dejando claras sus intenciones. Robots que nos quitarán el trabajo, redes sociales que nos vigilan, agencias gubernamentales almacenando datos sin que nos demos cuenta, drones que podrían ser autónomos y se convertirían en el arma de guerra perfecta… Son muchas y muy variadas las amenazas que los entrevistados presentan, pero tan seguidas que acabamos sintiéndonos bombardeados por tanto drama.

Y para remate, sus explicaciones casi siempre se alternan con Musk repitiendo hasta la saciedad sus palabras mágicas (“superinteligencia digital”) o con Nolan criticando algo. Los beneficios de la inteligencia artificial (seguridad de coches autónomos, aplicaciones médicas) acaban quedando eclipsados y prácticamente olvidados.

“Infundir el miedo gratuitamente disfrazado como un documental es el peor enfoque posible”, ha criticado en Twitter François Chollet, investigador de inteligencia artificial en Google y defensor de que hay una clara necesidad de dar mejores explicaciones al público general sobre inteligencia artificial… pero no de esa forma. Se aceptan más documentales que ver, también hay que decirlo.

¿Nadie va a pensar en los niños?

Entre los escasos momentos distendidos del documental, figuran las reflexiones, en muchos casos profundas, de niños y adultos de la calle sobre ordenadores y robots. No esperéis ver demasiados autómatas con pinta de majos o bonachones en este documental, pero sí algunos inquietantemente similares a nosotros: los de Hiroshi Ishiguro, el investigador japonés padre de los Geminoids, robots calcados a los humanos.

También vemos a un pequeño BB-8 en una de las escenas más simpáticas. Rana el Kaliouby, CEO de Affectiva, una empresa dedicada a lograr que los coches o las ‘apps’ entiendan mejor las emociones de sus ocupantes o sus clientes (algo que también resulta inquietante, aunque en el documental solo retrate la parte divertida del asunto) enseña a unos niños a controlar al robot rodante con su expresión facial. “¿Qué hace que un robot sea inteligente?” les pregunta El Kaliouby. “Creo que tendrías que entrenarlo”, suelta un pequeño de pocas primaveras que ya se ha pasado el documental.

La réplica de Ishiguro creada por el propio Ishiguro (nrkbeta | Flickr)
La réplica de Ishiguro creada por el propio Ishiguro (nrkbeta | Flickr)

Pocas mujeres

Viendo ‘Do you trust this computer?’, también nos asalta otra duda: ¿dónde están las humanas? Solo 3 de los 26 entrevistados son mujeres: Shivon Zilis (precisamente directora de proyecto en Neuralink, OpenAI y Tesla), Christine Fox (exsubsecretaria del Departamento de Defensa y cuya participación es anecdótica) y la mencionada Rana el Kaliouby. Precisamente la CEO de Affectiva ha resaltado en Twitter que el documental subraya la “urgente necesidad de diversidad” en el campo, un tema que preocupa a numerosas ingenieras que trabajan en iniciativas para animar a las más jóvenes y ser sus referentes.

Sorprende que sólo 3 de 26 expertos que salen en el reportaje son mujeres

De hecho, hay unas cuantas investigadoras de prestigio que bien podrían haber participado: Kate Crawford (investigadora principal en Microsoft Research New York, codirectora de AI Research Institute y defensora de que los algoritmos necesitan nuevos marcos éticos), Daniela Rus (directora del Laboratorio de Informática e Inteligencia Artificial del MIT), Fei-Fei Li (científica jefe de inteligencia artificial en ‘machine learning’ en Google Cloud y directora del Laboratorio de Inteligencia Artificial de la Universidad de Stanford)... Y eso por nombrar solo algunas. Aquí hay un directorio con cientos de expertas en ‘machine learning’.

La solución de ser cíborgs

Foto: Reuters.
Foto: Reuters.

El peligro de las armas autónomas es uno de los temas que más ampliamente se debate en el documental. Aunque Stuart Russell y otros expertos explican con detalle los peligros, y se mencionan iniciativas como la carta abierta del Instituto por el Futuro de la Vida para pedir la prohibición de esas armas, poco se habla de lo que ya se está haciendo (en Naciones Unidas se acaban de celebrar una nueva ronda de conversaciones sobre el tema) y tampoco los expertos ahondan en soluciones concretas a la mayoría de los debates propuestos.

Algunos parecen creer que lo que tenga que ocurrir, sea lo que sea, es inevitable (Eric Horvitz no está seguro de que vaya a importar mucho que nos preocupemos o no) y otros confían en que nos fusionaremos con las máquinas (Kurzweil e incluso un Musk optimista por momentos). De un modo u otro, el documental nos deja intranquilos y preocupados, aunque, como humanos, cada cual lo vivirá a su manera. Por el momento, yo solo pienso en el estreno de ‘Westworld’. Los apocalipsis robóticos, si son ciencia ficción, se digieren mejor.

Tecnología

El redactor recomienda

Escribe un comentario... Respondiendo al comentario #1
10 comentarios
Por FechaMejor Valorados
Mostrar más comentarios