Este doctor en filosofía maneja el arma con IA más poderosa del mundo: "O nosotros, o nuestros enemigos"

Ahí donde lo ven, con su pelo canoso encrespado, sus andares nerviosos y un doctorado en filosofía, Alex Karp dirige desde 2003 la compañía con el producto de tecnología militar más disruptivo del momento. La plataforma de Palantir, que permite gestionar en tiempo real todo tipo de bases de datos mediante inteligencia artificial, se ha convertido en uno de los pilares del éxito militar ucraniano ante la invasión de Rusia. Su software es clave para planificar operaciones militares, gestionar las tropas y equipos e identificar blancos hostiles en un área ocupada de más de 100.000 km². Donde truena la artillería Himars, ha relampagueado el código de Palantir. Es la guerra del algoritmo y ha llegado para quedarse.

Aunque llevan cuatro años trabajando en España, Palantir ha participado por primera vez en un acto público en la Feria Internacional de Defensa de España (Feindef), donde Karp sostuvo una entrevista pública con El Confidencial como parte del programa oficial. Es difícil conversar con Karp, pues apenas puede hablar de sus productos y mucho menos de sus clientes. Su mente parece funcionar a una velocidad distinta y sus respuestas fluyen a veces de forma atropellada, donde una idea le lleva a otra. Por ello, la conversación está ligeramente editada para su mayor claridad [se puede ver la charla aquí]. En su discurso conviven conceptos técnicos, reflexiones morales y un toque irreverente, directo, muy poco habitual en una industria que prefiere proyectar una imagen aséptica, escueta en palabras y poco dada a discutir la naturaleza última de su trabajo. Admiración hacia las tropas, respeto por los adversarios y desprecio por los powerpoints, los expertos y los inversores de capital riesgo. Con ustedes, el doctor Karp.

PREGUNTA. Usted fue de los que dijo que Rusia atacaría pese al ambiente de escepticismo generalizado. Teniendo claro que el conflicto iba a llegar, ¿cómo se preparó Palantir para la guerra?

RESPUESTA. Somos muy palantirians en lo que respecta a eventos globales. Hemos construido esta plataforma de software años antes de que la gente creyera que podría ser valiosa y hemos estado trabajando en el uso de IA en el contexto del campo de batalla y en identificar enemigos durante los últimos diez años. Creemos que el software que no está listo para el campo de batalla o que no puede ser probado en una simulación de batalla no debería ser comprado. Una de las grandes lecciones (de la guerra) para la industria de defensa y el gobierno es que el software es determinante y que la inteligencia artificial ya tiene un impacto material, y cada vez tendrá más, en el campo de batalla. El software que existe en PowerPoint o en papel o que está siendo construido a mano es poco probable que tenga valor y además es caro.

P. Graduado en derecho en Stanford y con un doctorado en filosofía en la Universidad Goethe, su perfil es poco ortodoxo para el sector. ¿Qué hace un filósofo en una empresa de tecnología militar?

R. Hay un 30% de la población occidental, según mi estimación, que cree, de una forma un tanto filosófica, incluso teológica, que, en la ausencia de armamento, los países lograrían, de forma poética, autogenerar paz. Y esta es una posición completamente teológica que uno tiene que respetar y comprender. Son sinceros. Aunque están completamente equivocados. Quizás equivocados es una forma incorrecta de expresarlo, ya que es un sistema teológico interno y, como tal, no puede estar equivocado. Pero la aplicación de esta idea en el mundo real genera grandes peligros porque la realidad es que el imperio de la ley está respaldado por el poder militar. La ley y la integridad territorial se respetan porque tenemos elementos de disuasión y, como última opción, tenemos los medios (militares) para que se respeten. Y esto no sucede por ese mecanismo kantiano en el que los teólogos de la doctrina de la paz radical creen; no existirían si no tenemos la habilidad y la superioridad militar material para defenderlo.

P. Fue el primer CEO en viajar a Ucrania y se reunió personalmente con el presidente Volodímir Zelenski. ¿Resultó útil para el papel de Palantir en la guerra?

R. La presencia de Palantir en zonas de guerra, como Ucrania, no diría que es útil, diría que es necesaria. Para los que creemos que los pilares morales de nuestra sociedad dependen en la habilidad que tengamos para disuadir al enemigo y, en el peor escenario, defenderlos; los ucranianos y su líder son gente muy valiente. Están alineados y dispuestos a luchar y a poner su vida en peligro. Si estamos a favor de defender los valores occidentales de verdad, no en una discusión o en un debate filosófico, sino en el campo de batalla, para Palantir era muy importante ofrecer lo que tenemos. Lo más importante, que es nuestro software, pero también ir a verle y mostrar apoyo moral. Y también, honestamente, para avergonzar a otros CEO para que fueran a Ucrania. Porque, si apoyas tanto a Ucrania, ¿por qué no vas? ¿Qué estás haciendo con tus productos? Quizás es que esos productos no funcionan realmente.

TE PUEDE INTERESAR

La industria militar española: cuando lo viejo no acaba de morir y lo nuevo no acaba de nacer

Jesús M. Pérez Triana

P. El público general e incluso algunos expertos en el campo de defensa no entienden cómo funciona y cuál es exactamente el papel de la inteligencia artificial en el campo de batalla. ¿Podría darnos algunos ejemplos o usos concretos?

R. Solo hay que leer las noticias o hablar con funcionarios gubernamentales o de la OTAN que trabajan en ese contexto. Pero sobre los expertos diré que, como término, básicamente significa que apoyas cosas (como productos IA) que ya eran realidad hace cinco años ahora, cuando son consenso. Así es cómo hacen dinero los expertos. Si verdaderamente eres un experto y sabías que esto sería un éxito hace cinco años, habrías construido un negocio. Hay muy pocas plataformas con inteligencia artificial útiles en el mercado porque esos expertos tienen un enorme poder y controlan las decisiones de inversión en la comunidad de fondos de riesgo.

Eso, al final, ha sido una enorme ventaja para nosotros. Porque estos expertos proveen consenso cuando el consenso ya llegó. Ahora se demuestra nuestro caso en el campo de batalla, donde ser capaz de identificar al adversario escondido en un país enorme, tener un software capaz de preparar una operación de inteligencia y, al mismo tiempo, cumplir las normas legales y morales, es una de las ventajas más importantes que puedes tener. Incluso contra un adversario como Rusia que ha estado gastando 65.000 millones de dólares al año en armamento durante décadas.

P. En algunas ocasiones ha dicho que la inteligencia artificial pasó de ser un fraude a ser un chiste hasta convertirse en un elemento crucial en el campo de batalla. ¿Cree que es algo que ha interiorizado la comunidad militar?

R. En América tenemos dos escuelas: los que básicamente todavía creen que los grandes modelos de lenguaje (Largue Languages Models o LLM) son un chiste y los que creen que son un enorme peligro para la Humanidad. Yo tengo una tercera postura: los LLM son potencialmente peligrosos pero cruciales y efectivos contra el adversario. Y si nosotros no invertimos en esto, ellos lo harán. Actualmente llevamos ventaja. Estoy alineado, de una forma extraña, con los que creen que es un peligro, porque tengo temores reales sobre el uso de los algoritmos y los LLM en el contexto occidental para que los gobiernos no destripen las libertades civiles. Aunque los usos operacionales más importantes de la IA han sido en el campo de batalla y utilizan más la inteligencia artificial generativa, que es parecido, pero con un tipo de matemática diferente.

P. ¿Y cómo evitar que el poder de una plataforma como la de Palantir no ponga en un riesgo nuestra privacidad y libertades civiles?

R. Los grandes modelos de lenguaje te pueden contar mucho del mundo de forma rápida y eficiente, pero no te pueden decir cómo llegaron a esas conclusiones, lo que hace que su uso en democracias occidentales y en el campo de batalla sea muy difícil. No vamos a autorizar la eliminación de un adversario sin comprender qué datos llevaron a esa conclusión. No vas, ni puedes, a arrestar a alguien sin comprender qué datos se usaron y cuáles no. Como cualquier persona que viva en una democracia constitucional sabe, la utilización de los datos requiere una navegación legal y ética. Meter informes médicos en un LLM no es legal, ni ético, ni deseable. Tus soldados y operadores tienen derecho a la privacidad también y se van a enfadar mucho si tienen que implementar algo que sortea el legítimo derecho a la privacidad. Hemos estado construyendo herramientas para lidiar con esos temas durante 20 años y las estamos desplegando en la plataforma, especialmente en EEUU, donde ahora hay una fuerte demanda por productos de IA que realmente funcionan.

P. ¿Cree que Occidente está haciendo lo necesario para mantener esa ventaja en inteligencia artificial que mencionaba? ¿Qué tal lo están haciendo nuestros rivales, especialmente China que también tiene tecnología IA muy avanzada?

R. La respuesta que va a escuchar mil veces es que China está muy avanzada en ciertos tipos de inteligencia artificial para temas internos. Rusia está intelectualmente muy avanzada con algunos de los mejores matemáticos del mundo, si no los mejores. Así que la respuesta clásica es "deberías estar asustado y, por tanto, deberías invertir más". Mi respuesta es que deberíamos estar asustados porque no nos centramos en lo que lideramos. Por eso estoy gastando mucho tiempo en América intentando convencer a nuestros líderes de que un 1% del presupuesto del Departamento de Defensa debería ser gastado en software operativo, es decir, que haya sido utilizado en el campo de batalla y con puntos extra si has vendido a un cliente comercial dos veces. Tenemos una enorme ventaja con el contexto de AI, LLM y algoritmos, pero tendemos a gastar en hardware, algo que obviamente se necesita y con lo que estoy de acuerdo. ¿Por qué una porción tan pequeña de nuestro presupuesto va al elemento que más nos diferencia?

TE PUEDE INTERESAR

El F-35 y las infografías fantasma: este es el fallo crítico de la industria de defensa europea

Jesús M. Pérez Triana

P. Hay que invertir más en software, entonces.

R. Es que el software que se compra muchas veces está hecho a mano y se prueba en el campo de batalla una vez que se ha construido, que es una forma muy peligrosa de hacer software, y es tan valioso que ningún cliente comercial lo compra jamás. Pero eso no quiere decir que no puedas conseguir 1.000 millones o 2.000 millones en inversiones si sabes cómo lidiar con la gente de capital riesgo, que es básicamente decirles que son estúpidos durante todo el proceso. Tenemos ventajas estructurales. Construir un gran modelo de lenguaje (LLM) en contextos autoritarios puede ser difícil, enseñar a ese modelo todas las 50.000 cosas que puede preguntar y responder… Es difícil. Por eso a nuestros adversarios les encantaría que gastemos mucho tiempo hablando sobre por qué no podemos implementar estas cosas. Es gracioso. Invertimos mucho tiempo y energía en cosas que asusten a nuestros adversarios, pero tengo mucha admiración por esos adversarios y eso nos debería llevar a preguntarnos cómo invertir en las áreas en las que somos legítimamente mejores que ellos.

"Nunca dejes de buscar fondos, tienes que ir a la gente de capital riesgo. Diles inmediatamente y siempre que puedas lo estúpidos que son"

P. La plataforma de Palantir ha ido evolucionando con las crisis globales. Se comenzó en la guerra antiterrorista y Afganistán, pero también se ha utilizado en emergencias por desastres naturales, control de fronteras, durante la pandemia del covid-19 y ahora en la guerra de Ucrania, donde además de apoyar a las tropas de Kiev, también ha sido utilizada por ONG en la gestión del enorme flujo de refugiados o por activistas que investigan crímenes de guerra. ¿Qué es en lo que está trabajando ahora la compañía?

R. Nuestro foco está ahora en desplegar los productos y llevarlo a una forma en la que sea posible escalarlo para avergonzar a los suministradores de powerpoints. Trabajamos en un modelo de conocimiento dinámico para que el LLM pueda entender a tu empresa, la seguridad en torno a la plataforma, la función de traspaso de decisión (handoff function), si nuestros modelos pueden generar otros modelos más amplios que puedan ser más confiables en el rango intermedio de datos. Y también está nuestro desafortunado sesgo de que el mundo cada vez es más peligroso y más inconexo y más valor tendrá el buen software. No previmos el valor de nuestra plataforma para el covid; vimos venir la guerra en Ucrania, pero no planeamos con años de antelación. Los productos que serán útiles en esta situaciones en el futuro los estamos construyendo ahora.

TE PUEDE INTERESAR

Artillería militar y financiera: Escribano M&E da un golpe de autoridad en la defensa nacional

Juanjo Fernández Infografía: Rocío Márquez

P. Y en España, ¿en qué están trabajando? ¿Cuáles son sus planes?

R. Me han dicho que no puedo decir nada de nuestro papel en España. Mi guion aquí es que España es un país maravilloso, lo conocemos muy bien, y que amo la comida. Sin mencionar nombres concretos, soy muy optimista y tenemos socios muy fuertes. Tenemos una amplia experiencia en la implementación de productos antiterroristas, productos para fuerzas especiales y para la identificación de enemigos. Así que el diálogo no es solo entender el producto, sino cómo utilizarlo efectivamente. Y hay mucho talento de ingeniería aquí y España está probablemente infravalorada en esto. Nosotros no infravaloramos a España.

P. Después de 20 años, ya están arrojando beneficios desde el último trimestre de 2022. Usted se ha fijado como objetivo "ser líderes en el uso y monetización de inteligencia artificial constitucional y ética en Estados Unidos en dos años". ¿Cómo lo van hacer?

R. Creo que ya somos líderes, solo que tus llamados expertos no lo reconocerán hasta dentro de dos años. Si dices inteligencia artificial ética suena a que es una inteligencia artificial que no funciona. Lo que queremos decir es que en un contexto militar, una IA que es mortal hace que nuestros enemigos se asusten. Y es peligrosa precisamente porque puede trabajar en un contexto que está permitido en nuestros países. Tienes acceso a todos los datos que estás autorizado a tener acceso. Puedes utilizar datos propios, pero de una manera que sea segmentada. Es interesante y contraintuitivo, pero la eficacia y la ética no son contradictorias. Están ligadas. La gente cree que si quitamos la ética, tendremos una mejor inteligencia artificial. Pero nuestros adversarios que se han deshecho de la ética, han impuesto otras limitaciones extrañas y no éticas con las que los grandes modelos de lenguaje no funcionan. Y en el lado comercial, una plataforma de IA no ética no las vas a implementar en tu empresa.

P. ¿Y en Europa también tiene ese potencial comercial la inteligencia artificial?

R. Tenemos clientes europeos que están adoptándola, pero en líneas generales, en EEUU la cosa va seis o siete veces más rápido. Y el efecto en eficiencia, seguridad, márgenes, va a ser enorme. Paso gran parte de mi tiempo en Europa y los que legítimamente queremos que Occidente funcione, necesitamos que Europa funcione. Esto debería preocuparnos. Si puedes conseguir que tu algoritmo y tu ética trabajen en armonía, puedes cambiar significativamente los márgenes de tu negocio de arriba abajo. Hay investigaciones que requieren leer millones de documentos en todo el mundo para los que necesitas cientos de personas. Puedes incrementar tu productividad por más de 10 mientras puedas valorar la información, porque habrá una porción que no sea confiable y algunas decisiones no pueden hacerse sin manejar la información en un entorno donde su veracidad puede ser probada al punto de que puedas hacer decisiones de inversión de 3.000 millones de dólares.

"Hay una expresión que dice 'si quieres a alguien, a veces tienes que darle una patada en el culo'. Ese fue un gran acto de amor por mi país"

P. Palantir (fundada en 2003 por Karp; Peter Thiel, cofundador de Paypal, primer y polémico inversor de Facebook y de muchas otras tecnológicas, y otros emprendedores) tuvo unos inicios complicados. Vendían su software directamente a las tropas y comandantes desplegados en Afganistán y llegaron a demandar al Ejército de Estados Unidos.

R. Demandamos al Ejército de EEUU no por no comprar Palantir, sino para que compraran productos cuya operatividad estuviera probada, no productos en un powerpoint de 4.000 páginas. Honestamente, creo que es una de las cosas más importantes que nunca hemos hecho por América, no solo por nosotros, sino por todos, incluyendo los emprendedores a los que haces referencia. Tenemos recursos limitados en nuestro país y tenemos que invertirlos juiciosamente. Porque tenemos que defender no solo para la gente realista sobre la naturaleza de la defensa nacional, sino también a los escépticos, a los que nada les gustaría más que señalar los programas que no funcionan para deshacerse también de los que funcionan y que necesitamos para nuestra supervivencia. Hay una expresión francesa que dice 'si quieres a alguien a veces tienes que darle una patada en el culo'. Ese fue un gran acto de amor por mi país.

P. Esta edición de Feindef está dedicada a los emprendedores. Con 20 años de experiencia, ¿qué lecciones les puede compartir?

R. Construye algo en lo que creas, rodéate de personas que también crean en eso y asegúrate de que sea algo excepcional. Levanta más dinero del que creas que necesitas y nunca dejes de buscar fondos, lo que en América significa que tienes que ir a la gente de capital riesgo. Diles inmediatamente y siempre que puedas lo estúpidos que son, porque su visión es 'si fuera tan talentoso como este tipo, sería mucho más capullo que él'. Tienes que ser cuidadoso con ser majo porque para ellos es lo mismo que ser débil. Vas a tener que luchar duro y durante mucho tiempo. Y cuídate de los expertos, si los expertos te aman huye, sal corriendo y encuentra otra idea, porque eso significa que tu idea está caducada y que 50.000 personas van a hacer lo mismo. Eso no quiere decir que todas las ideas tengan que ser locas, ni que todas las ideas locas sean ipso facto buenas.

"La IA es potencialmente muy peligrosa. Pero tenemos adversarios dispuestos a destruir el imperio de la ley y serán ellos o nosotros"

P. Hay jóvenes que no quieren entrar en la industria de la defensa por cuestiones éticas y morales. Es una industria con mala publicidad. Usted mismo tenía manifestantes en su casa y en la sede de su compañía. ¿Cree que se malinterpreta su trabajo?

R. No todo es una malinterpretación. A mucha gente a la que no le gustamos entienden a la perfección lo que representamos. Y lo que queremos es que Occidente gane, una defensa fuerte, disuasión, competencia, dinero bien gastado y sin derrochar. Creemos que la violencia solo debe ser utilizada en un marco constitucional en el campo de batalla, pero apoyamos el uso de la violencia en ese contexto. Muchos de nuestros críticos creen que los soldados son mala gente y en general no les gusta asociarse con guerreros o gente vinculada a la inteligencia. Y nosotros estamos honrados de apoyar a esa gente. Y eso que muchos de ellos me veían como un loco cuando iba a sus bases y cuarteles. Puede que no estemos de acuerdo en todos los debates políticos y de la guerra, pero tengo gran reverencia por los jóvenes que ponen su vida en riesgo. Y no es un malentendido que los apoyamos, no es un malentendido que apoyamos a América, no es un malentendido que estamos orgullosos de las agencias que usan nuestro producto, no es un malentendido que, pese a nuestras diferencias políticas, apoyamos el trabajo con nuestros aliados occidentales.

No soy monedita de oro para caerle bien a todos. Nunca lo fui, honestamente. Pero soy bastante popular en algunos lugares ahora, tanto que no me lo puedo creer. Es más, a todos los críticos de Palantir les digo: por favor continuad. Porque hemos atraído y retenido al mejor equipo en el mundo durante 20 años, no durante dos años hasta que la startup es comprada, o cinco años antes de que salga a bolsa. Y lo seguiremos haciendo.

P. Muchos pensadores y científicos advierten de que la inteligencia artificial representa una gran amenaza para la Humanidad. ¿Está usted entre ellos?

R. La inteligencia artificial es potencialmente muy, muy peligrosa. Perto tenemos estos duros adversarios que están dispuestos a destruir el imperio de la ley y serán ellos o nosotros. Ellos están comprometidos con esas ideas, no es que sean inherentemente malos, sino que tienen una visión del mundo y cómo debería funcionar diferente. Sin la habilidad de disuadirlos viviremos como ellos quieran que vivamos. Creo que tenemos que invertir en inteligencia artificial hasta el punto que nuestros adversarios estén dispuestos a cambiar y digan, tenemos que parar esto. Entonces podemos alcanzar un acuerdo basado en la ley.