"Todo en internet es 100% real": Google borra las extrañas respuestas de su IA

• La función de Instagram que debes activar para evitar que usen tus fotos al entrenar a la IA
• 'BYOAI': cuando los empleados usan su propia IA para trabajar y los jefes ni se enteran

Las presentaciones que ocurren en los grandes eventos tecnológicos, como por ejemplo en el Google I/O, nos suelen dejar con la boca abierta. Se suele mostrar la tecnología de vanguardia, los avances que vendrán o, por decirlo así, se suele echar un vistazo al futuro.

Pero una cosa es lo que podemos ver funcionando en una muestra controlada y otra el producto final que llega al público. Y es que, en una presentación, claro, no se van a mostrar los fallos y las costuras, sino la mejor versión. Así ha ocurrido con Al Overview, la aplicación de búsqueda generativa de Google.

TE PUEDE INTERESAR

El espeluznante proyecto para trasplantar cabezas humanas usando robots e IA

Jesús Díaz

Se trata de una herramienta que potencia los resultados de su buscador gracias al uso de inteligencia artificial. Ahora Google no solo responderá mostrando una lista de resultados relacionados con las palabras clave de la búsqueda, sino que podrá interpretar lo que deseamos buscar. Así que podremos, por ejemplo, hacer preguntas con un lenguaje natural.

Internet se llenó de ‘alucinaciones’

Pero lo cierto es que esta herramienta no ha funcionado completamente como se esperaba y la semana pasada las redes sociales se llenaron de capturas de pantalla con respuestas absurdas y alocadas. “Échale queso a la pizza”, “un perro fue jugador de la NBA”o “la serpiente pitón es un mamífero” son algunos de los memes que se hicieron virales.

Google ha respondido eliminando manualmente algunas de las respuestas que el buscador ofrecía a búsquedas específicas. “Muchos de los ejemplos que hemos visto han sido consultas poco comunes”, dijo la portavoz de Google, Meghann Farnsworth. También confirmó que la compañía está "tomando medidas rápidas" para eliminar las respuestas de AI Overview en ciertas consultas "cuando sea apropiado según nuestras políticas de contenido, y utilizando estos ejemplos para desarrollar mejoras más amplias en nuestros sistemas, algunas de las cuales ya han comenzado a implementarse".

El problema está en el 20%

Gary Marcus, un experto en IA y profesor de la Universidad de Nueva York, dijo al medio The Verge que “muchas compañías de IA están ‘vendiendo sueños’ al afirmar que esta tecnología pasará del 80% de precisión al 100%. Lograr el 80% inicial es relativamente sencillo, ya que implica aproximarse a una gran cantidad de datos humanos, pero el 20% final es extremadamente desafiante”.

A pesar de que los planes de Google incluyen aumentar la precisión y otro tipo de funciones (como la capacidad para generar una página de resultados organizada por IA o la búsqueda de vídeos con Google Lens), Marcus no cree que los modelos actuales de IA vayan a dejar de ‘alucinar’.

Esto requeriría un modelo de ‘inteligencia general artificial’, que pudiera verificar los datos como si fuera un humano. Es decir, que los modelos tendrían que verificar la cordura de su propio trabajo, y, según el experto, es algo que de momento no pueden hacer.