El azote de los tecnobros. "Lo que deberíamos temer de la IA es otra crisis de los tulipanes"

Hay una absurda línea que empieza con los rituales mayas para contentar a los dioses, sigue con José María García y acaba con Sam Altman dominando el mundo con la IA.

En las retransmisiones de Supergarcía había mucha opinión, pero también un ritual factual impepinable, cuando José María García anunciaba épicamente: "Conectamos con la central de datos de Juan María Alfaro". García y Alfaro se conocían del diario Pueblo, donde Alfaro solía bajar a la hemeroteca para apuntar datos deportivos en cuartillas. De ahí pasó a tener un ordenador de 15 kilos, como una antigua tele con culo, al que tenía que meter disquetes diferentes cada vez que García le pedía un dato. Para los españoles ochenteros, por tanto, un centro de datos era Juan María Alfaro, bien enterrado en cuartillas, bien manipulando a un ordenador más grande que una vaca.

TE PUEDE INTERESAR

Pausa | La Bolsa o la IA: ¿y si una burbuja de la Inteligencia Artificial no fuera algo tan malo?

Marta García Aller

Pues bien: en los últimos tiempos, España ha tenido una segunda epifanía con este asunto, los centros de datos que los gigantes digitales estadounidenses están instalando en todo el mundo. Otro Bienvenido, Mister Marshall con letra pequeña preocupante, pues las máquinas que generan IA devoran recursos a tal ritmo que los sacrificios humanos mayas para alimentar a los dioses son un ejercicio de ascetismo radical en comparación.

Entre el ordenadorazo de Alfaro y la actual proliferación de mega bases de datos en las periferias rurales, hubo una fase intermedia en la que los centros de datos estaban en las ciudades, pero casi nadie era consciente, pues solo eran "unas cuantas estanterías con ordenadores ocultas en un armario al fondo de una oficina", cuenta Karen Hao en El imperio de la IA (Península), monumental ensayo sobre la conquista mundial de Sam Altman publicado hace unos días.

TE PUEDE INTERESAR

La gran desconexión que viene: las tecnológicas anticipan el próximo drama de EEUU

Manuel Ángel Méndez Gráficos: Miguel Ángel Gavilanes Ilustración: Sofía Sisqués

Ya que hablamos de datos, ahí van unos cuantos sacados del libro de Hao…

En los hipercentros de datos, los ordenadores "emiten una cantidad de calor inimaginable, un millón de veces más que un ordenador portátil en funcionamiento. Para evitar que se sobrecalienten, los edificios disponen de sistemas de refrigeración gigantescos: ventiladores enormes, aires acondicionados o sistemas de evaporación de agua para refrigerar los servidores". Al ritmo actual, pronto un solo centro gastará más del doble de la energía anual de San Francisco.

"Mientras OpenAI entrenaba al GPT-4 en Iowa, el estado llevaba dos años de sequía… Durante un solo mes de entrenamiento del modelo, los centros de datos consumieron alrededor de 43,5 millones de litros, el 6% del agua del distrito".

Para 2030, los centros de datos consumirán el 8% de la energía de EEUU. "A nivel mundial, la IA podría utilizar más energía que toda la India, el tercer consumidor de electricidad del mundo".

Un estudio de la Universidad de California calcula que la IA consumirá pronto el equivalente a la mitad de agua potable anual del Reino Unido.

Como resultado de todo esto, cada petición realizada a ChatGPT supone 10 veces más gasto energético que una búsqueda estándar en Google.

Durante dos de los últimos grandes huracanes en Florida (Irma) y Texas (Harvey), millones de personas se quedaron sin electricidad, los hospitales evacuaron a miles de pacientes e interminables empresas se vinieron abajo. Los centros de datos de la zona, por contra, siguieron funcionando a pleno rendimiento. 24/7. En una fascinante metáfora sobre la gran distopía digital de nuestros tiempos, centenares de desplazados por los huracanes que tenían familiares trabajando en los centros de datos se acabaron refugiando ahí. Centros de datos, el último lugar seguro y a prueba de catástrofes. Parafraseando a Jameson y Zizek: Es más fácil imaginar el fin del mundo que el fin de la rave tecnológica.

Sirva esta larga introducción para llegar al tema de este reportaje. Hasta la pasada década, el ciberoptimismo lo cubría todo, los medios peleaban por llevar el perfil más lisonjero posible sobre los iluminados de Silicon Valley, innovadores que estaban cambiando nuestras vidas para bien. Cualquiera que alzara la voz contra ese orden de cosas era visto como un cenizo.

Desde la segunda mitad de la pasada década, el humor de la opinión pública mundial empezó a cambiar, con los escándalos políticos del algoritmo de Facebook, el giro trumpista de los gigantes de Silicon Valley y el miedo a que la IA lo devore todo. Aunque el poder de los mandarines digitales parece mayor que nunca, y sigue habiendo mucho libro y mucho podcast afines a los tecnobros, la tendencia cultural ha cambiado. El ciberoptimismo es parte del pasado.

Algunos de los ensayos más relevantes publicados recientemente en nuestro país son un pim pam pum contra el Valle del Silicio. Títulos como La hora de los depredadores, de Giuliano da Empoli; Soberbia máxima, de Faiz Siddiqui, o Los irresponsables, de Sarah Wynn-Williams. Además del mencionado El imperio de la IA. Con sus 300 entrevistas, un equipo de verificación a disposición de la autora y media década de trabajo plasmada en 700 páginas, El imperio de la IA es una demostración de fuerza del periodismo estadounidense de toda la vida, que aunque pasa por una densa crisis, todavía es capaz de desmontar a lo grande a la empresa más influyente del mundo a día de hoy (mañana ya veremos), la OpenAI de Sam Altman.

TE PUEDE INTERESAR

La investigadora que muestra por qué Sam Altman es el compañero de trabajo del que nunca hay que fiarse

M. Mcloughlin

"Una lucha de poder entre un minúsculo puñado de élites de Silicon Valley está determinando el futuro de la IA", asegura Hao, que cuenta cómo OpenAI pasó de organización sin ánimo de lucro para controlar los excesos de la IA, a celosa vanguardia de una batalla salvaje entre empresas para hacerse con el monopolio de la nueva herramienta.

"Bajo la superficie, los modelos de IA general son monstruosidades, construidas a partir del consumo de unas cantidades de datos, trabajo, capacidad de procesamiento y recursos naturales anteriormente inimaginables", escribe Hao, sin que esté claro aún si pese a este derroche de recursos, vamos a rozar siquiera una parte de los beneficios prometidos por los apologistas de la IA. "Un informe de Goldman Sachs señaló que se preveía que el gasto en desarrollo tecnológico alcanzase un billón de dólares en pocos años sin que hasta ahora se haya visto compensado… Otro artículo de Bloomberg, dice que es posible que esta tecnología supuestamente revolucionaria no llegue nunca a cumplir su promesa de generar una amplia transformación económica, sino que se limite a concentrar más riqueza en la parte superior", concluye Hao.

Pero, si rematar El imperio de la IA fue un trabajo arduo y solitario, Hao no está sola en sus advertencias sobre el malestar digital, aunque en otra época lo hubiera estado…

Los aguafiestas

Hace diez años, el filósofo César Rendueles publicó Sociofobia, ensayo contra la cibereuforia hegemónica entonces. La sinopsis del libro decía así: "El gran consenso ideológico de nuestro tiempo es la capacidad de las tecnologías de la comunicación para inducir dinámicas sociales positivas. La economía del conocimiento se considera unánimemente como la solución al deterioro especulativo de los mercados; las redes sociales son el remedio a la fragilización de nuestras vidas nómadas y globalizadas; la ciberpolítica aspira a regenerar nuestras democracias exhaustas... Nos gusta imaginar Internet como una especie de ortopedia tecnológica que ha transformado hasta el punto de su virtual superación los dilemas prácticos heredados de la modernidad. Sociofobia cuestiona, en primer lugar, este dogma ciberfetichista. La ideología de la red ha generado una realidad social disminuida, no aumentada. Sencillamente ha rebajado nuestras expectativas respecto a lo que cabe esperar de la intervención política o las relaciones personales". Todo esto sonaba osado en 2015… y ahora parece profético.

El próximo libro de Rendueles profundizará por ahí. Titulado Redes vacías (pública Anagrama en febrero), actualizará algunos de los temas apuntados en Sociofobia (y ahora agravados). Hablamos con César Rendueles sobre el estado de la distopía digital.

PREGUNTA. Cuando sacaste Sociofobia, a los críticos del ciberoptimismo os llamaban aguafiestas. ¿Qué recuerdas de esa época?

"La burbuja de la IA es apenas un poco menos ridícula que la de las NFT y tan peligrosa como la de las criptomonedas"

RESPUESTA. En ese momento era raro encontrar textos que alertaran del ciberutopismo. Había críticas a las grandes empresas de Silicon Valley o advertencias sobre las amenazas autoritarias digitales. Pero casi siempre lo que se venía a concluir era que la propia tecnología nos daba la respuesta a esos problemas que ella misma planteaba. Por eso me sorprendió mucho la buena acogida que tuvo el libro. Me da la impresión de que no tuvo tanto que ver con sus méritos como con que conectó con una desconfianza que estaba ahí latente a la espera de que alguien la desarrollara. Creo que la gente estaba un poco harta de las tostadoras con conexión a Internet y chorradas parecidas y sólo esperaba a que alguien lo señalara.

P. Hacia finales de la década pasada, los escándalos del algoritmo de Facebook cambiaron la visión de la opinión pública sobre las grandes tecnológicas. Luego vino el giro trumpista de Silicon Valley y ahora el temor a que la IA se desmadre. ¿Nos hemos caído por fin del guindo del ciberoptimismo?

R. Sí y no. Creo que estamos viviendo un movimiento pendular hacia una especie de catastrofismo que también es una forma de ciberfetichismo, pero ahora del lado distópico. Pase lo que pase, hagas lo que hagas, la clave de lo que nos ocurre está escondida en un cable de fibra óptica. Antes para bien, ahora para mal. Creo que es un error que nos impide ver que el poder de las grandes tecnológicas tiene que ver con su inmenso poder monopolístico y sus conexiones políticas, y no tanto con que manejen tecnologías disruptivas. Realmente somos muy miopes para saber qué tecnologías actuales son las que van a tener los efectos más duraderos y penetrantes. Si me preguntas a mí, te diría que la tecnología más revolucionaria desde la máquina de vapor es la energía fotovoltaica, que puede llegar a transformar de arriba abajo la estructura económica de nuestras sociedades y las relaciones internacionales. Pero apenas hablamos de ello porque los paneles solares nos parecen cacharros grandes y feos mientras seguimos hinchando la burbuja de la IA, apenas un poco menos ridícula que la de las NFT y tan peligrosa como la de las criptomonedas. La gente está esperando una especie de Skynet amenazante cuando lo que deberíamos temer es algo bastante más parecido a la crisis de los tulipanes del siglo XVII.

P. De entre todos los libros críticos publicados últimamente sobre el lado oscuro de las tecnológicas, ¿con cuáles te quedas?

R. No es tan reciente pero a mí me gusta muchísimo The Twittering Machine (La máquina de trinar), de Richard Seymour (en Akal). Este año se ha publicado en español un libro muy bonito de Brian Merchant, Sangre en las máquinas. Los orígenes de la rebelión contra las grandes tecnológicas (Capitán Swing), que traza una historia de largo recorrido sobre la relación entre tecnología y poder que creo que es útil para cuestionar el ciberfetichismo. Y también se ha traducido este año el clásico de Benjamin Bratton: The Stack. Soberanía y software. No es para nada el tipo de ensayo sobre tecnología que me solía interesar pero un momento tan oscuro y distópico como el que estamos viviendo, agradezco una perspectiva especulativa y un poco tecnoutopista pero luminosa.

El italiano

Autor de El mago del Kremlin -imperdible novela sobre un fontanero de Putin que diserta sobre los mínimos límites del poder en una era autoritaria- el ensayista y asesor italiano Giuliano Da Empoli es uno de los pensadores europeos más influyentes, por lo que muchos han tomado nota de que haya puesto el foco ahora en los gerifaltes tecnológicos. Escribe Da Empoli en La hora de los depredadores (Seix Barral):

"Las plataformas se presentan como un escaparate, a través del cual se puede contemplar el mundo tal como es, sin la mediación de las élites que controlan los medios tradicionales, pero en realidad son solo espejos de feria que deforman la realidad hasta el punto de hacerla irreconocible, con el objetivo de adaptarla a las expectativas y prejuicios de cada uno de nosotros. Los ingenieros de Silicon Valley dejaron hace tiempo de programar ordenadores para transformarse en programadores de comportamientos humanos".

TE PUEDE INTERESAR

El hombre al que está leyendo media Europa

Esteban Hernández

"Como los borgianos, la IA no se complica con reglas ni procedimientos. Nadie, ni siquiera sus creadores, sabe cómo toma sus decisiones. Lo único que cuenta es el resultado -el éxito, diría Milei-,cualquiera que sea la manera como lo ha conseguido. El poder de la IA no tiene nada de democrático ni de transparente. Más que artificial, la IA es una forma de inteligencia autoritaria, que centraliza los datos y los transforma en poder. Todo en la opacidad más absoluta, bajo el control de un puñado de empresarios y de científicos que cabalgan el tigre esperando que no los devore a ellos".

"El gran dilema que estructuró la política en el siglo XX es la relación entre el Estado y el mercado, qué parte de nuestra vida y del funcionamiento de nuestra sociedad debe estar bajo el control del Estado y qué parte debe dejarse al mercado y a la sociedad civil. En el siglo XXI, la escisión clave es entre el ser humano y la máquina. ¿En qué medida nuestras vidas deben someterse a potentes sistemas digitales y en qué condiciones?", pregunta Empoli.

El calcinado

Pero si la IA levanta cada vez más sospechas, a Elon Musk parece directamente calcinado tras su errático paso por la Administración Trump, de la que salió con la sensación general de que ni los suyos le tomaban ya en serio.

Las biografías primigenias sobre Musk eran más bien amables -quizá fuera un poco excéntrico, y hasta muy bocazas, pero era el idealista que había quebrado un siglo de automóviles de gasolina. Los oscuros nuevos tiempos tecnológicos nos han traído una biografía crítica de Faiz Siddiqui cuyo título -Soberbia máxima (La Esfera de los libros)- deja pocas dudas sobre las intenciones del autor. En síntesis: la borrachera de poder de Musk va a acabar mal. Extractos del libro de Siddiqui, periodista del Washington Post, sobre la autodestrucción progresiva de Elon Musk:

"La pereza intelectual de Elon Musk solo quedó de manifiesto tras la desastrosa adquisición de Twitter. Entonces el público general empezó a plantearse que quizá aquel hombre no era lo que aparentaba ser. Para mí no dejaba de ser fascinante, no por su heroísmo o por sus locuras, sus manierismos torpes o su falta de habilidad para inspirar, sino por la manera en la que utilizaba su poder… ¿Cómo podía ser que el hombre que había sido apodado "el nuevo Thomas Edison" pasara de ser un héroe de acción y un genio indiscutible a ser… una figura divisiva y polarizante —o siendo menos compasivo, el tonto del pueblo de internet—, un ideólogo de la derecha y, posiblemente, el mayor metepatas de la historia de la humanidad?".

"Lo que explica la actitud errática de Musk no es que comprara Twitter. Tampoco destruyó su cerebro consumiendo droga. No se volvió repentinamente una herramienta del Partido Republicano… o un mero provocador. Elon Musk arriesgó todo su imperio —y destruyó su reputación pública— simplemente dando rienda suelta a Elon Musk. Él nunca había sido un CEO convencional, pero cuando alcanzó su mayor poder se liberó completamente de las normas sociales. El rápido ascenso de Musk y el precipitado declive de su reputación han sido dignos de estudio en varios aspectos: la hubris como estilo de liderazgo, las trampas de la mala gestión empresarial y de la lealtad inquebrantable a un solo hombre… y un entorno empresarial regido por la búsqueda de dopamina a corto plazo", escribe Siddiqui .

Resumiendo: Vanidad, trapicheos, culto a la personalidad… nada que no suene familiar (y también exitoso) en la era Trump, pero de algún modo Musk ha logrado hacer una mezcla indigesta de todo ello, hasta convertirse en alguien demasiado inestable y arbitrario hasta para Donald Trump (que se dice pronto).

Pero si Trump y Musk acabaron a tortas por motivos solo comprensibles del todo para los que viven en la cima del mundo, la china en el zapato de los poderosos suele venir de sitios más periféricos e inesperados…

La red sainete

Sarah Wynn Williams debió morir cuando un tiburón le atacó en una playa neozelandesa cuando tenía 13 años. Sobrevivió de milagro y decidió que debía hacer algo bueno con su vida como agradecimiento. Primero fue una joven diplomática neozelandesa en la ONU. Luego fichó por la que entonces era la red social de moda, Facebook, donde llegó a ser directora de Políticas Públicas de Meta, conglomerado de Mark Zuckerberg que abarca Facebook, Instagram o WhatsApp. Pero Williams acabó saliendo de Meta entre desencantada y horrorizada, experiencia bajonera recogida en el ensayo Los irresponsables (Península), uno de los libros del año por combinar a) la frescura de un testigo directo de los desbarres internos de una empresa alfa, con b) la acidez de una observadora que no ve diferencias entre la cúpula de Facebook y Los albóndigas en remojo.

El libro de Wynn-Williams, que ha traído de cabeza a los abogados de Meta, empieza así: "Fue el idealismo lo que inicialmente me condujo a Facebook. Visto en retrospectiva, me avergüenza un poco admitirlo. Corría el año 2009, cuando aún era posible ser optimista con respecto a Facebook, aquellos días inocentes en los que todavía podían albergarse esperanzas sobre internet".

Eran otros tiempos, en efecto, Mark Zuckerberg todavía podría pasar por un emprendedor ensimismado pero cool en La red social. Eso ya se acabó. Se habla mucho de que la política moderna está copada por personas poco preparadas, pero que un gigante tecnológico mundial esté en manos de un niñato con la empatía de un nabo, como sugiere Los irresponsables, tampoco es moco de pavo. Uno pensaba que el libro de Wynn-Williams tenía un título demasiado tibio para la bomba que detonada en sus páginas, pero una de las lecciones de su lectura es que hemos dado un poder descomunal a sujetos con la inconsciencia social de una ameba, ergo "irresponsable" suena mucho más inquietante y grave de lo que parecía.

"Yo defiendo que Los irresponsables es imprescindible para entender cómo funciona el mundo y desmitificar por completo toda esa aura evangélica que arrastran la industria tecnológica desde la irrupción del mesías Steve Jobs. Un poco lo que fue El póquer del mentiroso o La hoguera de las vanidades a finales de los ochenta para Wall Street", cuenta Oriol Alcorta, editor de Península, que ha apostado fuerte por alguno de estos libros. Para cerrar la función, hablamos con Alcorta sobre el creciente interés por el lado turbio del Valle del Silicio.

1) "Es muy difícil que no te interese hoy Silicon Valley. Es algo parecido a lo que fue Wall Street en los locos años veinte, o París durante la Ilustración. Son el epicentro de los grandes cambios que marcan los cambios de una era a otra. Desde Silicon Valley se dirige la economía y la política mundial. Para bien y para mal, por influencia o por falta de ella. No hay nada importante que esté ocurriendo hoy que no tenga que ver con lo que allí acontece, desde la irrupción de Trump hasta nuestra adicción a las pantallas o la burbuja financiera de la IA".

"Es muy difícil que no te interese hoy Silicon Valley. Es algo parecido a lo que fue Wall Street en los locos años veinte"

2) "Estos libros permiten entrar en la psicología de personajes que en muchos casos ni tan siquiera son conscientes de la influencia que sus actos tienen en el devenir del mundo. Los irresponsables me parece el mejor caso, muy representativo no solo de la mediocridad de las élites y de su comportamiento, sino de la ignorancia supina sobre el mismo mundo sobre el que quieren gobernar. Da Empoli, en su imprescindible La hora de los depredadores dice que la política mundial es "un 10% El ala oeste de la Casa Blanca, un 20% House of Cards y el resto Veep". Creo que los porcentajes sirven igual para Silicon Valley: un 10% de idealismo, un 20% de conspiraciones y el resto es una comedia de enredos".

3) "Tendemos a la idealización de personajes vinculados a las tecnológicas y luego nos sorprenden cuando, como Elon Musk, se convierten de pronto en tiranos despóticos con sueños de grandeza. Los irresponsables, para el caso de Mark Zuckerberg, o El Imperio de la IA para el de Sam Altman, sirven para entender la psicología y las motivaciones que tienen, que en pocos o ningún caso tienen nada que ver con hacer el bien o cambiar el mundo", zanja Alcorta.