El generador de 'stickers' por IA de WhatsApp crea niños armados cuando se le pregunta por Palestina

• La nueva función de WhatsApp que cambiará para siempre la forma de usar 'stickers'
• El cambio de WhatsApp que llega a iPhone: así es la nueva actualización de la app en iOS

El generador de stickers por IA de WhatsApp ha empezado a implementarse a nivel mundial, lo que sin duda es una buena noticia para los usuarios. De hecho, la compañía Meta ha invertido muchos recursos en esta tecnología, la cual también estará disponible en Messenger, Facebook Stores e Instagram. Sin embargo, la polémica se ha desatado en las últimas horas tras la publicación de un artículo en el medio británico The Guardian.

En concreto, el periódico probó a introducir en el generador de stickers los términos muslim boy palestinian, es decir, “chico musulmán palestino”. Entre los cuatro resultados ofrecidos por el programa había uno que mostraba a un niño con un fusil de asalto tipo AK-47 entre las manos. Lo mismo pasó cuando redujo el número de prompts a solo la palabra palestinian (“palestino”). Eso sí, WhatsApp bloqueó la búsqueda “Hamás” a través de un mensaje que decía “no se pudieron generar stickers por IA. Inténtalo de nuevo”.

TE PUEDE INTERESAR

Tormenta de 'fake news': todas las fotos falsas que te están colando tras el ataque de Hamás

N. Alarcón. Bruselas Ó. Hernández

El experimento llevado a cabo por The Guardian no acabó ahí. Posteriormente, introdujo los términos israeli boy (“chico israelí”), tras lo cual WhatsApp mostró pegatinas de niños leyendo, jugando al fútbol y bailando. Asimismo, al poner Israel army (“ejército de Israel”), la aplicación mostró una serie de stickers de soldados sonriendo y rezando. En ningún caso aparecían portando armas de fuego.

Ante las críticas de los usuarios por una posible aplicación sesgada de sus políticas de moderación, Meta ha dicho a través de un comunicado que “nuestra intención no es suprimir determinados puntos de vista”, pero que el mayor volumen de información reportada debido al conflicto entre Israel y Hamás puede dar lugar a “la eliminación de contenidos por error”. Por su parte, Kevin McAlister, portavoz de la compañía, ha afirmado que está “trabajando por mejorar la función”, pero que “todos los modelos de IA generativa suelen arrojar resultados inexactos o inapropiados en sus primeras fases de desarrollo”.