Es noticia
Menú
Máquinas... como tú: "Los humanos estamos más cerca de los autómatas que de los dioses"
  1. Cultura
entrevista

Máquinas... como tú: "Los humanos estamos más cerca de los autómatas que de los dioses"

Dardo Scavino publica 'Máquinas filosóficas' (Anagrama, 2022), un recorrido por las respuestas de distintos pensadores a una inquietud más antigua de lo que parece: entre máquinas y humanos, ¿quién domina a quién?

Foto:

Uno de esos chistes que se comparten y transmutan en redes sociales dice algo así como: "Tardé varios años en darme cuenta de que soy gay, pero el algoritmo de TikTok tardó cinco minutos". El chascarrillo contiene algo de verdad. Un psicólogo de Stanford determinó que los algoritmos de Cambridge Analytica necesitaban tan solo 10 'likes' para conocerte mejor que tus colegas, 100 para hacerlo mejor que tu familia y 230 para conocerte mejor que tu pareja. Con "conocer", el estudio se refería a la capacidad de predecir un comportamiento. El consumo de ocio y entretenimiento en internet no es solo tiempo libre. Detrás de los algoritmos de recomendación, un puñado de negocios capitalizan y sistematizan nuestro comportamiento. Y pueden hacerlo porque, quizá, somos menos libres y más autómatas de lo que creemos.

Ese mito del genio, la libertad y la creatividad intrínsecamente humanas ha formado parte de las inquietudes filosóficas de todos los tiempos. Si un algoritmo y un ordenador pueden predecir nuestro comportamiento con tal precisión, ¿nuestro pensamiento no se parece más a ese algoritmo que al de un dios omnipotente? Cuando una máquina es capaz de replicar el pensamiento, ¿quién domina a quién? ¿Los robots nos ayudan o nos suplantan? ¿Nos quitarán el trabajo o nos liberarán de él? Son algunas de las dudas que el filósofo Dardo Scavino se planeta en su ensayo 'Máquinas filosóficas' (Anagrama, 2022). Desde tiempos de Aristóteles hasta las últimas distopías robóticas, la preocupación por las máquinas ha sido una constante en la historia del pensamiento.

placeholder 'Máquinas filosóficas'. (Anagrama)
'Máquinas filosóficas'. (Anagrama)

PREGUNTA. Su libro demuestra que nuestra relación con las máquinas y la tecnología es una inquietud mucho más antigua de lo que creemos.

RESPUESTA. Sí, muchísimo más antigua. De hecho, desde los orígenes de la filosofía, por lo menos desde Aristóteles, las máquinas están ahí. Obviamente, no como las conocemos ahora, pero están ahí. Los griegos decían que la filosofía comenzaba con el asombro. Y la palabra griega para hablar del asombro se utilizaba también para hablar de los autómatas. Desde tiempos de Aristóteles, las máquinas aparecen como posibles sustitutos de los esclavos y de los trabajadores. Por supuesto, en esa época no existían las máquinas capaces de sustituir a nadie. Pero Aristóteles ya imaginaba que, si una máquina pudiera y supiera obedecer, entonces no harían falta más esclavos.

P. La inquietud ha sido la misma a lo largo de la historia y es la misma que los mercados contemporáneos enfrentan ahora: ¿las máquinas nos quitan el trabajo o nos liberan de él? ¿De qué depende esta distinción?

R. La visión optimista, aquella que confiaba en que el progreso paulatinamente iba a librarnos del trabajo, fue la visión de muchos utopistas sociales incluido Karl Marx. Pero lo que Marx nota rápidamente es que, lejos de liberar a los trabajadores, la tecnología y las máquinas industriales esclavizó a los trabajadores. Se convirtieron en un apéndice de la máquina. El problema que tenemos hoy es averiguar hasta dónde puede llegar esa sustitución. Porque la máquina del siglo XIX, aquella que observaba Marx, sustituía el trabajo manuel de artesanos o tejedores. Las máquinas de hoy pueden llegar a sustituir a trabajadores más intelectuales y cualificados.

P. En su libro, plantea que la esencia de una máquina es la transformación: convertir X (lo que entra) en Y (lo que sale). Convertir lana en tejido, cacao y leche en chocolate o un maremágnum de datos en tendencias y predicciones. Y cita aquel famoso chiste: "Un matemático es una máquina que transforma café en teoremas". ¿Hasta qué punto el cerebro humano es una máquina que no hemos conseguido codificar ni descifrar, pero una máquina la fin y al cabo?

R. El cerebro es un órgano biológico con una gran complejidad, con una red de varios trillones de neuronas que están actuando al mismo tiempo, lo cual es muy difícil de reproducir. Pero eso no quiere decir que en algún momento no se puedan reproducir. Entonces, hay dos tendencias que se oponen. Por un lado, los que piensan que la inteligencia artificial está a punto de sustituir a la inteligencia humana. Es decir, que se está volviendo capaz de generar un pensamiento original y no solamente de repetir aquello para lo que fue programada. Por otro lado, están quienes piensan que existe aquello que tradicionalmente se llamó espíritu o alma. Algo que no se puede reducir a esas conexiones neurológicas, a impulsos eléctricos, y que no se puede reducir a un funcionamiento maquinal. Y esa creencia de que existe algo que escapa al funcionamiento maquínico del cerebro es algo que forma parte de la fe.

"Nuestro problema con las máquinas siempre fue un problema de poder"

P. En el momento en el que se trabaja para codificar y reproducir el pensamiento, las fronteras entre las máquinas y los seres humanos se difuminan.

R. La apuesta del libro es mostrar que nuestro problema con las máquinas siempre fue un problema de poder. Ya lo era desde Aristóteles, cuando se planteaba si el gobierno de los esclavos se podía convertir en un gobierno de las máquinas. Cuando Norbert Wiener funda la cibernética, escoge una palabra que significa gobierno en griego. De hecho, es de donde proviene gobierno en latín y, después, en español. Wiener es explícito al respecto y llega a afirmar que es lo mismo gobernar a los hombres que a las máquinas. No hay diferencia. Lo que ocurre es que, para gobernar tanto a los hombres como a las máquinas, es necesario un lenguaje común. Ese es un asunto que Aristóteles también se planteaba: para gobernar a los esclavos, es necesario que los esclavos comprendan las órdenes. Y para ello se necesita amos y subordinados compartan un mismo lenguaje. Por consiguiente, los esclavos eran seres tan racionales como sus amos. La desigualdad que existe entre el que ordena y el que obedece se da porque ambos compartían un mismo logos. Para que hubiera desigualdad, tenía que existir una igualdad previa. Y eso es algo que siempre fue problemático para el pensamiento de la dominación en Occidente y que sigue siendo problemático para pensar nuestra relación con las máquinas y la tecnología.

Queremos que las máquinas nos obedezcan, y de hecho es lo que hacemos. En estos momentos, apretamos teclas para dar órdenes a un ordenador, para que obedezca nuestras instrucciones. Para perfeccionar las máquinas y su obediencia, estas tienen que manejar un lenguaje cada vez más cercano al lenguaje de los humanos. Hoy se le puede hablar a un ordenador o a un teléfono móvil como si fuese una persona y puede comprendernos, obedecer nuestras órdenes.

P. La cuestión del poder sobre la tecnología o la inteligencia artificial ha desatado visiones utópicas, pero también distópicas. No son pocas las ficciones que nos hablan de un futuro en el que las máquinas suplantan a los humanos para esclavizarlos. ¿Por qué esta visión se repite una y otra vez?

R. Como mencionaba antes, el pensamiento utópico imaginaba un futuro en el que las máquinas liberaran a las personas del trabajo y la obediencia. Pero, al mismo tiempo que la tecnología puede sustituir a una persona, se genera un pensamiento distópico, porque significa que las máquinas nos pueden reemplazar y dominar. Y aquí es donde se inscribe esa tradición de pensamiento que se plantea hasta qué punto somos como máquinas y hasta qué punto somos máquinas obedientes. Los humanos también respondemos a ciertos automatismos, incluso en nuestras facetas más originales y creativas. Ocurre con el lenguaje. Nosotros no nos damos cuenta, pero estamos obedeciendo reglas gramaticales y lingüísticas todo el tiempo, a una velocidad altísima, para poder comunicarnos. La gramática no es más que eso, un conjunto de reglas o un programa que obdecemos. Y esas gramáticas existen para todo: para el pensamiento, para las matemáticas, la física, para nuestro comportamiento social cotidiano... Obedecemos constantemente a reglas, porque si no, no podríamos vivir en sociedad. En realidad, la originalidad y la creatividad son elementos muy raros. La creación de una nueva instrucción o un nuevo programa, tanto en el arte como en la ciencia, es un momento inusual. En el siglo XIX, muchos pensaron que aquello era lo que nos distinguía como seres humanos. Eso es lo que pensaba Nietzsche, que lo único que nos distinguía de los autómatas eran esos momentos de creatividad. Solo entonces éramos señores, cuando nosotros dábamos las instrucciones y no solo las recibíamos.

placeholder El filósofo argentino Dardo Scavino. (EFE)
El filósofo argentino Dardo Scavino. (EFE)

P. Incluso los productos más paradigmáticos del genio humano pueden ser replicados por máquinas en cuestión de tiempo. Como ese programa que fue capaz de inferir por sí solo las leyes de la física newtoniana a partir de un conjunto de datos. Hace tiempo que la tecnología es mucho más eficiente a la hora de encontrar patrones y leyes en la naturaleza que la mente humana. ¿No da vértigo?

R. Completamente. Ahí está la división. Ahí están aquellos pensadores y especialistas de inteligencia artificial que dicen que la IA va a llegar a pensar como un ser humano y que será capaz de generar hipótesis o, incluso, de escribir una sinfonía. Existen programas capaces de generar conjeturas en matemáticas para producir ciertas constantes fundamentales en la ciencia, como Pi, la constante de Euler, la constante de Catalan... Es decir,que producen pensamiento.

Además, cada días más, estamos acostumbrados a dejarnos guiar por las máquinas. Un GPS, en el fondo, no es más que eso. Nos fiamos más de la tecnología que de nosotros mismos porque es más eficiente. Cuando teníamos que utilizar mapas nos perdíamos, no sabíamos dónde estaban las calles y tomábamos rutas equivocadas. En cambio, el GPS nos guía de una manera bastante eficiente cuando nos perdemos. Cada vez estamos delegando más funciones a la máquina, lo cual tiene la ventaja de que nos libera de una serie de trabajos engorrosos y complicados. Pero al mismo tiempo estamos confiando en ellas para que ordenen nuestra vida cotidiana.

Foto: El 'cyberdog' de Xiaomi. (M. McLoughlin)

P. Como delegamos nuestra orientación en un GPS o un mapa, también delegamos nuestra memoria en internet. Delegar es liberarse, pero también perder autonomía. ¿Es esta la dominación de las máquinas que imaginaban filósofos, escritores y cineastas?

R. Hay una famosa frase en un diálogo de Platón, que planteaba lo mismo respecto a la escritura. [Sócrates, maestro de Platón, nunca dejó plasmado su pensamiento en libros]. Decía que la escritura era un 'pharmakon'. En griego, ese concepto significa tanto remedio como droga. Remedio porque nos soluciona un problema. Por ejemplo, internet nos permite no tener que recordarlo todo. En aquel entonces, los juglares griegos memorizaban por completo los poemas de Homero y eran capaces de recitar la 'Odisea' entera. En ese sentido, el libro nos ahorra todo ese trabajo. Es una suerte de memoria externa. Ocurre también con el teléfono, que es remedio y droga al mismo tiempo porque nos vuelve dependientes. Cada vez más, nuestra memoria se encuentra fuera de nosotros. Platón planteaba el problema con respecto a la escritura y finalmente él escribió sus diálogos, que imitaban la oralidad, pero eran libros. Y sin esos libros no hubiese existido la revolución cultural, que hubo primero en la antigüedad con los manuscritos y después, por supuesto, con lo que se llamó la Galaxia Gutenberg. La imprenta, la capacidad de multiplicar los libros.

Hoy, estamos viviendo una revolución semejante. Mi generación nació y creció sin Internet. El hecho de poder tener acceso de manera casi inmediata a bibliografías que antes nos costaba mucho esfuerzo conseguir es una ventaja considerable. Pero al mismo tiempo nos volvemos dependientes de esas máquinas. No podemos recordar cosas que antes recordábamos bien. Primero porque ya estamos más viejos y recordamos peor. Necesitamos buscar en Wikipedia cómo se llamaba el actor de tal película, confiamos en que no necesitamos recordar esas cosas. Así que nuestra memoria es más despreocupada, por eso también olvidamos. El esfuerzo de recordar ya no es necesario en muchas ocasiones.

P. Menciona otras consecuencias de esa memoria externalizada que es internet: las de la economía del dato. El hecho de nuestros comportamientos puedan predecirse y sistematizarse con algoritmos también nos conduce a pensar que somos más autómatas de lo que creemos, más máquinas y menos humanos...

R. Digamos que es un cambio de paradigma. En principio yo no soy muy amigo de hablar de peligros ni de convertirme en un diagnosticador de la civilización. En el orden capitalista decimonónico, en la sociedad industrial, había que disciplinar al trabajador. Había que disciplinar a los sujetos para automatizar, para que repitieran eficaz y sincronizada una serie de movimientos necesarios en la producción. De alguna manera, también había que automatizar su pensamiento, porque era necesario que la gente pensara de una manera medianamente uniforme para que la sociedad funcionara. Si antes había que automatizar a los trabajadores, ahora lo que ocurre es más bien lo contrario. La máquina aprovecha nuestros automatismos psíquicos y sociales y los capitaliza. La economía del Big data es eso. Respondemos a ciertos patrones de conducta que dependen de nuestra educación, nuestra edad, nuestro origen, nuestro sexo... Una máquina puede clasificar todos esos automatismos e identificarlos. Aprovechar esos datos para extraer estadísticas y predecir cómo se comporta la gente. Las empresas venden esos paquetes de datos porque son una manera de conocer la sociedad y su evolución casi con un escáner permanente. Para el marketing o la publicidad electoral, esto es perfecto. En función de nuestros likes, nuestros movimientos y búsquedas, se va definiendo nuestro grupo social, nuestra edad, nuestra cultura, etc. Somos como autómatas cuando sumamos todos esos parámetros.

"Si antes había que automatizar a los trabajadores, ahora la máquina aprovecha nuestros automatismos y los capitaliza"

P. ¿La libertad y capacidad de creación humanas está sobrevaloradas?

R. Ese fue otro de los grandes debates. En la mayor parte de los casos, nuestros comportamientos obedecen a elementos de orden biológico o de orden social. Son muy pocos esos momentos de gracia, de creación, donde el ser humano logra superar sus automatismos. En general estamos bastante más cerca de las máquinas que de los dioses, como dirían los griegos.

P. Nuestras actividades de ocio y consumo online, en realidad, se capitalizan. Trabajamos con nuestros clics como autómatas, sin darnos cuenta.

R. Esa capitalización de nuestros automatismos invirtió la relación entre el ocio y el trabajo. Para los griegos, la persona ociosa era el amo, era el ciudadano libre en oposición al esclavo que obedecía instrucciones. Y gracias al Big Data, el ocio se convirtió en un elemento de producción de riqueza porque capitaliza nuestros automatismos, o sea, nuestra obediencia a elementos sociales o psicológicos. En el momento en que creemos que somos libres, porque estamos dándole instrucciones a una máquina, también somos autómatas. Hay una inversión por la cual se aprovechan nuestras instrucciones y se convierten en capital. Hay una inversión entre amo y esclavo. Ocurre con un aria de 'Don Giovanni', de Mozart. Leporello, el criado, va tomando nota de todas los romances de Don Juan y crea un archivo que después recita en el aria del catálogo. Leporello, el criado, cataloga los comportamientos de su amo. A veces, internet nos conoce más de lo que nos conocen nuestros seres cercanos, incluso más de lo que nos conocemos a nosotros mismos.

P. La captación de datos no se reduce a fines comerciales, sino también a fines de vigilancia. El desarrollo de economía del dato está muy ligado al desarrollo de sistemas de espionaje como Pegasus.

R. De alguna manera, Pegasus es un caso especial porque permite a un gobierno o a una empresa (lo cual se está volviendo cada vez más indistinto) escuchar las conversaciones de una persona por teléfono. Pero al mismo tiempo estamos constantemente siendo espiados, porque todo lo que nosotros hacemos se archiva en algún lado. En el libro, un poco en broma y un poco en serio, lo comparo con lo ocurre con los drones de algunos servicios secretos. Cómo los drones detectan un blanco. Además de los misiles que dispara, tienen dispositivos para intervenir comunicaciones y son capaces de saber dónde está su objetivo, con quién habla y qué dice. A través de ciertos patrones de comportamiento, el dron es capaz de predecir si esa persona es una amenaza, un terrorista de Al Qaeda o del Estado Islámico, por ejemplo. Construye el perfil de la persona hasta que finalmente se decide si esa persona merece ser el blanco de un misil. Por supuesto, por el momento esa decisión se toma la toma un ser humano. Pero, en realidad, la mayoría de las informaciones que determinan si la persona es un terrorista o no las proporciona el propio dron. O sea, que entre entre la decisión humana y la automatización directa hay un solo paso que no se dio por las protestas de varios científicos. Las campañas publicitarias nos apuntan no con misiles, sino con publicidad. Lo cual es mucho menos dañino, claro. Pero se podría decir que obedecen al mismo funcionamiento: crean perfiles y patrones de comportamiento.

Uno de esos chistes que se comparten y transmutan en redes sociales dice algo así como: "Tardé varios años en darme cuenta de que soy gay, pero el algoritmo de TikTok tardó cinco minutos". El chascarrillo contiene algo de verdad. Un psicólogo de Stanford determinó que los algoritmos de Cambridge Analytica necesitaban tan solo 10 'likes' para conocerte mejor que tus colegas, 100 para hacerlo mejor que tu familia y 230 para conocerte mejor que tu pareja. Con "conocer", el estudio se refería a la capacidad de predecir un comportamiento. El consumo de ocio y entretenimiento en internet no es solo tiempo libre. Detrás de los algoritmos de recomendación, un puñado de negocios capitalizan y sistematizan nuestro comportamiento. Y pueden hacerlo porque, quizá, somos menos libres y más autómatas de lo que creemos.

Tecnología Algoritmos TikTok Big Data