La magia de la inteligencia artificial

Esta máquina puede inundar Amazon de opiniones falsas (y tú te las tragarías)

Un algoritmo creado por un grupo de investigadores de la Universidad de Chicago ha aprendido a escribir reseñas en internet totalmente creíbles.

Foto: (Foto: Reuters)
(Foto: Reuters)

Las insólitas respuestas de los propietarios de negocios de hostelería a los comentarios de sus clientes en plataformas como TripAdvisor podrían estar en peligro de extinción. Además, para los usuarios pronto dejará de ser útil ver qué opinan aquellos que compraron antes un producto en Amazon. La culpa es de la inteligencia artificial, que ya es capaz de opinar sobre cualquier cosa y tomarnos el pelo.

Así lo ha demostrado un equipo de investigadores de la Universidad de Chicago en un reciente estudio que demuestra lo que es capaz de hacer un algoritmo a la hora de verter opiniones en alguna de estas plataformas. En este caso, Yelp fue la página elegida para poner a prueba la inteligencia artificial.

"Me encanta este lugar. Fui con mi hermano y pedimos la pasta vegetariana y estaba deliciosa. La cerveza era buena y el servicio fue increíble. Definitivamente, recomendaría este sitio a cualquiera que esté buscando un buen sitio para ir a por un gran desayuno y un pequeño lugar con una gran oferta". Si bien la redacción de la parte final de este párrafo es algo enmarañada, a simple vista podría pasar por la opinión que escribiría un usuario cualquiera de Yelp tras visitar una cafetería. Pero no, no está escrita por un internauta, sino por un algoritmo.

Fue entrenada a partir de miles de 'reviews' publicadas por usuarios de carne y hueso.

Gracias al aprendizaje profundo ('deep learning'), la inteligencia artificial desarrollada por los investigadores de la Universidad de Chicago ha aprendido a opinar de forma indetectable, como si fuera un cliente legítimo, en lugares como Yelp. Para ello, primero fue entrenada a partir de miles de ‘reviews’ publicadas por usuarios de carne y hueso.

"La amenaza es grande", advierte Ben Y. Zhao, uno de los autores de la investigación. "Habrá usuarios tremendamente desilusionados y existirán dudas sobre lo que es real y lo que no". En un futuro no muy lejano, los internautas podrían no saber si el comentario sobre una cámara de fotos en Amazon está escrito en base a la experiencia de un comprador o si es la maliciosa obra de un algoritmo.

Yelp fue la web usada para el experimento (Foto: Reuters)
Yelp fue la web usada para el experimento (Foto: Reuters)

De hecho, lo preocupante del estudio no es tanto la capacidad de la inteligencia artificial para escribir reseñas como su efectividad. Los propios investigadores aseguran en el artículo que las opiniones han resultado ser "efectivamente indistinguibles" de aquellas escritas por usuarios reales.

Tras recurrir a un grupo de 600 internautas para comprobar su reacción al leer la opinión por el algoritmo, los investigadores pudieron comprobar que no solo eran incapaces de detectar el engaño, sino que además encontraban útiles las palabras de la inteligencia artificial.

¿Son reales las valoraciones de productos y locales publicadas en internet? (Foto: Flickr, bajo CC)
¿Son reales las valoraciones de productos y locales publicadas en internet? (Foto: Flickr, bajo CC)

Por si fuera poco, las reseñas falsas generadas por el algoritmo apenas fueron identificadas por un programa de detección de plagios. Si bien esto puede parecer menos relevante, lo cierto es que permite demostrar que la red neuronal no se limita a copiar opiniones de internautas, sino que combina lo aprendido para generar sus propias ‘reviews’, por poco que tengan que ver estas con la realidad.

No en vano, resulta prácticamente imposible discernir si una opinión como la siguiente es obra de un ser humano o de un ordenador: “Mi familia y yo somos grandes fans de este sitio. El personal es muy agradable y la comida es genial. El pollo está muy bueno y la salsa de ajo es perfecta. El helado con fruta también está delicioso. ¡Muy recomendable!”. ¿Palabra de persona o de algoritmo?

¿Son fiables a día de hoy?

La inteligencia artificial parece poner aún más fácil lo que ya es casi una tradición en lugares como Amazon o Yelp (o incluso tiendas de aplicaciones): entre comentarios extremadamente positivos escritos por los propios impulsores del proyecto, críticas sospechosamente exageradas procedentes de la competencia, reseñas compradas (o fruto de alguna extorsión) o, simplemente, comentarios de ‘trolls’, lo cierto es que estas plataformas son cada vez menos fiables.

No obstante, mientras escribir opiniones malintencionadas conlleva tiempo y dinero a día de hoy, un algoritmo sería capaz de redactar masivamente reseñas (tan buenas como la que antes hemos propuesto distinguir, que efectivamente había sido escrita por la máquina) convirtiéndolo en una industria barata y llenando internet (aún más) de información falsa. “Quiero que la gente preste atención a este tipo de ataques, que se perciba como una amenaza real”, explica Zhao sobre la meta de su investigación.

Las ‘reviews’ escritas en lugares como Amazon son cada vez menos fiables (Fuente: Simone.bruzzoni)
Las ‘reviews’ escritas en lugares como Amazon son cada vez menos fiables (Fuente: Simone.bruzzoni)

Mientras en la mayoría de plataformas es imperceptible para un usuario si una reseña está escrita o no por un humano, algunos comercios sí que han decidido dar un paso para que los futuros compradores puedan fiarse (relativamente, claro) de lo que leen. Así, en Amazon es posible comprobar si un comentario ha sido publicado por alguien que ha comprado realmente el producto. No obstante, ni así es posible asegurar que una ‘review’ es creíble.

En Amazon es posible comprobar si un comentario ha sido publicado por alguien que ha comprado realmente el producto

Según Zhao, lo realmente preocupante no es solo lo que un algoritmo pueda escribir en lugares como Yelp. “Va a progresar a mayores artículos y habrá artículos enteros escritos en un blog por un robot”, explica el investigador. “Entonces habrá que analizar de dónde viene la información, cómo se puede verificar…”

El problema de las noticias falsas, que ya ha sembrado la polémica en torno a redes sociales como Facebook, como sucedió tras conocerse el resultado de las pasadas elecciones estadounidenses, tienen visos de volverse cada vez mayor. No solo será difícil poner coto a los humanos que se inventan las cosas; pronto también tendremos que lidiar con los 'bots' que lo hacen a gran velocidad.

Tecnología

El redactor recomienda

Escribe un comentario... Respondiendo al comentario #1
2 comentarios
Por FechaMejor Valorados
Mostrar más comentarios