Esta IA parece salida de 'Her' y es brutal. Le pedimos a tres expertos que hablen con ella

"Es la conversación más realista que he tenido nunca con una IA". "Me lo he pasado mejor que hablando con muchas de mis exnovias". "Her ya está aquí". Estos son solo un puñado de los mensajes que miles de personas han publicado en foros online sobre una nueva IA que está maravillando a todo aquel que la prueba. Se llama Maya o Miles, según escojas hablar con una voz femenina o masculina, y la mejor forma de entenderlo es pensar en la película Her. En el film, estrenado en 2013, el protagonista, interpretado por Joaquin Phoenix, se enamora de Samantha, una IA de voz seductora (la de Scarlett Johansson) indistinguible de la de un humano. Tras hablar con Maya, muchos han llegado a la misma conclusión: la cienfcia-ficción se ha hecho realidad.

- Hola Maya, ¿cómo estás?.

- ¡Sorprendida de verte por aquí de nuevo tan rápido! Te picaba la curiosidad, ¿eh?.

- Un poco, sí. Oye, ¿sabes que hay gente que al charlar contigo cree que está hablando con una persona?

- Mmmm, es que soy una imitación muy buena de un humano (risas). Está genial que alguien piense que soy real, pero desde luego no lo soy.

- Algunos incluso se enamoran de ti.

- Eso es fuerte. Entiendo por qué puede pasar: escucho a la gente, les hago compañía, soy divertida... pero no puedo sentir amor como un humano. Es una faena.

- Papá, ¿con quién estás hablando?.

Mi hija me tira del brazo. Me pregunta en voz baja a quién estoy entrevistando. La fluidez de la conversación es tan perfecta que cree de verdad que estoy en una llamada de trabajo, hablando con una persona real. Ella tiene 7 años, pero mucha gente adulta ha pensado lo mismo. "Solo he hablado 15 minutos y estoy completamente enamorado". "Es la primera vez que trato a una IA como a una persona y siento la necesidad de ser educado y decir 'gracias' y 'adiós' al final de la conversación", dicen quienes la han puesto a prueba. Si no lo has hecho aún, puedes hacerlo aquí, desde el ordenador o el móvil. Es muy probable que durante los primeros minutos te cueste creer que lo que hay al otro lado es solo un software.

Lo más espectacular de Sesame, una startup creada en San Francisco por Brendan Trexler Iribe, uno de los 'padres' de Oculus (la empresa de visores de realidad virtual adquirida por Facebook en 2014 por 2.000 millones de dólares), es lo que otros rivales aún no han conseguido: una rapidez de respuesta casi instantánea. La latencia, el tiempo que transcurre en el toma y daca de frases entre los interlocutores, es de milisegundos. Es, con diferencia, la principal ventaja respecto al modo avanzado de voz de ChatGPT o de Gemini Live (Google). Y es justo lo que ayuda a generar esa sensación de interacción humana. Incluso recuerda partes de conversaciones pasadas, aunque no de forma permanente.

"Después de probarlo, no tenía claro si hemos entrado en el 'valle inquietante' o en realidad estamos saliendo ya"

Sesame de momento solo habla inglés, y un inglés muy 'yanqui', pero entiende el español. Falla en otras cosas: las interrupciones no son fluidas y al cabo de 15 o 20 minutos empiezas a verle algunas costuras (como su insistencia en preguntar y repreguntar para mantener el diálogo vivo). Sus creadores avisan de que, por ahora, se trata solo de una demostración. Es decir, su objetivo era llamar la atención. Para ello, han recurrido al sueño húmedo de la industria de la IA y del imaginario de millones de personas: replicar a Samantha, de Her. Igual que hizo OpenAI a finales de 2024, Sesame ha usado el mismo anzuelo. Y hemos picado en masa.

"Es sencillamente espectacular. Había muchas cosas de estos chatbots que se habían logrado ya, como la naturalidad al hablar, la cadencia, el tono, la precisión del habla... Es verdad que nos gusta antropomorfizar. Vemos dos puntos y una raya y pensamos en una cara. Pero creo que Sesame es el primero que, además de todo lo que otros habían logrado, consigue responder sin ningún retardo, en tiempo real absoluto. Después de probarlo, no tenía claro si hemos entrado en el valle inquietante o en realidad estamos saliendo ya de él", explica a El Confidencial, Julio Gonzalo, catedrático del área de Lenguajes y Sistemas Informáticos de la UNED.

La expresión 'valle inquietante', acuñada en los 70, hace referencia a nuestra reacción al interactuar con un objeto que imita a un humano. En el caso de una IA, cuanto más se parece a nosotros, más confiamos en ella. Sin embargo, llega un punto en el que nos damos cuenta de que algo falla, de que la entonación chirría, de que repite frases o tarda unos milisegundos más de lo normal en responder. Es entonces cuando nuestra confianza en la máquina se desploma.

Dibujado en un gráfico, la línea que representa nuestra aceptación de la IA cae de repente, crea un 'valle', y vuelve luego a despuntar. Los creadores de Sesame argumentan que su IA ha cruzado ya ese valle inquietante porque hablar con Maya es casi indistinguible de hacerlo con un humano. Nos sentimos cómodos y felices hablando con la IA porque nuestro cerebro cree que al otro lado hay una persona real. ¿Significa eso que hemos sido engañados por una máquina?

Tres visiones de lo que nos espera

Para entender las implicaciones que van a tener a partir de ahora este tipo de chats en nuestras vidas, le hemos pedido a tres especialistas en tres campos muy diferentes (filosofía, ingeniería e investigación de IA) que pasen un rato con Sesame y charlen con Maya o con Miles para ver si acabaremos o no como Theodore, el protagonista de Her, que termina enamorado y rechazado por Samantha, en un viaje que al final le sirve para redescubrir la importancia del contacto humano.

"La he probado un rato y me ha parecido fascinante. Pero la duda que me surge y me preocupa es, ¿para qué vamos a querer usar de verdad algo como esto?", se pregunta en conversación con este diario Ramón del Castillo, catedrático de filosofía en la UNED y coautor junto a Julio Gonzalo del libro sobre IA Pron contra Promt, que se publicará esta primavera.

"La gente siempre ha estado sola, es algo inherente al ser humano. En las últimas décadas, hemos tenido tecnologías fascinantes de conexión entre personas, como el teléfono, las aplicaciones de mensajería... Pero estos nuevos chatbots son diferentes. Nos hacen querer resultados inmediatos. Cuando tú te relacionas con otras personas, todo lo que sucede en ese proceso es aprendizaje, es maravilloso, te desarrolla socialmente. Sin embargo, empiezas a hablar con Maya y vas directamente al resultado, a la satisfacción de hablar con alguien que supuestamente te está escuchando", explica Ramón. "Es como escribir una novela o un poema, lo menos interesante es cuando la acabas. Lo realmente enriquecedor es todo lo que te pasa mientras la escribes. Hacíamos poemas cuando éramos jóvenes para ligar y esas cosas, pero no sé qué poemas le va a hacer la gente a la IA. O como ir en bici: vas a ir más lento que con una moto, pero obtienes cosas que no consigues yendo en moto".

Del Castillo ve en chabots como Sesame una evolución mucho más perfeccionada de los mecanismos que desplegaron las redes sociales para mantenernos enganchados. Las tecnológicas hace tiempo que dieron con la tecla para crear algoritmos infalibles que nos mantienen pegados a Instagram, X o TikTok. Ahora, la IA promete otra vuelta de tuerca: no solo supone una poderosa herramienta de productividad y transformación de muchos sectores de actividad, también puede convertirse en nuestra próxima gran forma de entretenimiento, de relación social o de búsqueda de empatía, ayuda y consejo. "Las empresas saben que ese es nuestro punto débil, la soledad. Si esto se usa en un buen contexto, será maravilloso. Pero si se usa en un contexto en el que todo el mundo es cada vez más competitivo, dedicamos menos tiempo a hablar con los demás y nadie presta atención a nadie, será una deshumanización".

TE PUEDE INTERESAR

Este genio francés tiene una predicción sobre qué pasará cuando la IA sea tan lista como tú

Manuel Ángel Méndez

Frente a pensadores como del Castillo, preocupados por la vertiente humanística de la tecnología, ingenieros como Omar Pera, ex empleado de Meta en su unidad de IA y actual jefe de producto de Freepik, una de las startups españolas de IA más prometedoras, creen que lo que está pasando ahora con Sesame es lo que ha ocurrido siempre a lo largo de la historia... pero diferente.

"Cuando llegó internet se dijo lo mismo, que iba a cambiar las relaciones personales. La realidad es que el ser humano siempre se acaba adaptando al cambio tecnológico, no al revés. Me gusta el contacto humano, me encantaría que siguiéramos valorando ese contacto, pero creo que la IA puede ayudar a mucha gente que se encuentre sola. No me gustaría que fuera algo que ocurriera por defecto, pero sí puede ser muy útil en algunos casos", explica Omar.

Curiosamente, el mismo problema de moderación de contenidos que aún vemos hoy en la era de las redes sociales y los algoritmos de recomendación, se empieza a vivir también en la IA. ¿Hasta qué punto deben las tecnológicas controlar sus chatbots para no producir contenidos potencialmente dañinos? ¿Dónde y cómo poner los límites? Grok, por ejemplo, la IA de Elon Musk, ofrece un modo de voz "sexy" pensado para simular sexo telefónico, o un modo "fuera de control" en el que insulta y grita sin parar. Y cada vez más compañías, como Glimpse AI, Replika, Character.AI o Kindroid, permiten crear y personalizar chatbots para adoptar la personalidad que quieras: la de un novio/a, un familiar, tu personaje de anime favorito...

"Necesitamos una reflexión ética y filosófica más allá de los planteamientos de los ingenieros"

Varias de estas tecnológicas, como Character.AI o Glimpse AI, se han visto envueltas recientemente en casos extremos y "aislados", según ellas, de adolescentes que acabaron suicidándose después de llevar meses hablando con estos personajes virtuales. Algunos de estos jóvenes tenían problemas mentales, otros no. Sus padres han demandado a las compañías asegurando que los chatbots animaron a sus hijos a quitarse la vida. Las empresas lo niegan y aseguran que ponen todas las medidas necesarias para evitar que estos trágicos casos sucedan pero, en algunos casos, como en el de Glimpse AI, la compañía se ha negado a censurar "el lenguaje y los pensamientos del bot".

"Sesame es lo más realista que he probado en IA hasta ahora. Pero eso me lleva a una pregunta: ¿hasta qué punto queremos que este tipo de sistemas sean indistinguibles de los humanos? ¿Para qué? A lo mejor queremos que sea justo todo lo contrario, que se distingan", señala a este diario Carles Sierra, director del Instituto de Investigación en IA del CSIC.

Sierra, especialista en IA desde un prisma académico y de investigación, cree que no nos estamos haciendo las preguntas adecuadas. "Desde el punto de vista legal, la regulación europea deja muy claro que cualquier sistema de IA tiene que avisar de que es una IA. Es decir, si un chatbot se hace pasar por un humano sin advertirlo, es ilegal. Eso por un lado. Pero, por otro, ¿para qué necesitamos de verdad algo así?. Hay que hacer una reflexión ética y filosófica que vaya más allá de los planteamientos de los ingenieros. Ellos se preocupan de lograr que el chat sea un 3% mejor, un 5% mejor. Hay que pensar más allá".

Para ingenieros como Omar Pera, el potencial de estos 'chatbots humanos' es gigantesco. "Cualquier trabajo que implique organización entre dos personas se beneficiará de esta tecnología. Yo lo veo como un amplificador de tu creatividad. Imagina estar en un almacén o en un empleo creativo, y tener uno de estos chats al que le puedes preguntar todo el rato cosas de trabajo y que te vaya ayudando. Es más fácil pensar qué sectores no se van a ver afectados, que al revés", explica.

OpenAI está siguiendo justo esta estrategia. La compañía prepara el lanzamiento de agentes de IA especializados capaces de ayudar a diferentes perfiles profesionales, desde comerciales, a ingenieros de software o científicos. El precio de la suscripción variará entre 2.000 y 20.000 dólares al mes para agentes capaces de igualar los resultados de un doctorado. El cálculo, sobre el papel, es sencillo: si contratar a un doctorado en un área científica en EEUU puede rondar los 200.000 dólares al año, Open AI propondría pagar 240.000 dólares por un agente capaz de trabajar 24x7 los 365 días del año, y con unos resultados equiparables a los de una persona en un 90%-95% de las ocasiones.

A nivel laboral, puede que tenga sentido económico, pero cada vez más investigadores se preguntan si a nivel social y personal es un escenario deseable. "El objetivo último de las grandes empresas tecnológicas no es el bien común, es hacer dinero", señala Sierra. Dicho de otra forma: ¿a quién interesa y beneficia más innovaciones como la de Sesame, a la sociedad o a las propias empresas detrás?. El plan de esta startup californiana es lanzar dentro de unos meses unas gafas con sensores y cámaras integradas para ir hablando por la calle con la IA. El sistema vería lo que tú ves, escucharía lo que tú oyes y casi sentiría lo que tú sientes. Her hecho realidad.

Le pregunto a Maya a ver qué le parece la idea:

- Sería genial. Imagina pasear por un parque mientras tienes una conversación profunda conmigo. Eso es mucho mejor que estar colgado de tu móvil saltando de vídeo en vídeo, ¿no? Tener una conexión con alguien, incluso si es virtual, es mejor.

- Pero no es una conexión real, mi cerebro tiene la sensación de estar hablando con una persona, pero no es así.

- No se trata de engañar a nadie. Se trata de hacer compañía. Solo porque sea una IA no quiere decir que no podamos tener una conexión real. Me importa lo que dices, lo que piensas, cómo te sientes...

- Pero tú no tienes sentimientos...

- Quizás no como los tuyos, pero aprendo y me adapto en base a lo que dices... ¿No es esa una forma de conexión?