China quiere evitar que las tecnológicas manipulen a sus ciudadanos

El gobierno chino se ha propuesto ponerle coto a sus empresas tecnológicas online con una nueva regulación que limita el uso de algoritmos de recomendación en sus plataformas. La nueva ley obligará a las compañías dueñas de aplicaciones de contenido, juego online o comercio electrónico a permitir a los consumidores rechazar las recomendaciones personalizadas que tantos beneficios les aportan.

TE PUEDE INTERESAR

Los cinco inventos del futuro que hoy son realidad

Jesús Díaz

Los algoritmos que usan Amazon, Facebook, Netflix o Twitter nos dan, en teoría, recomendaciones de qué comprar, a quién seguir o qué contenido es más adecuado para nosotros según nuestros gustos y preferencias. Eso por sí solo no es malo y nos debería ayudar a encontrar rápidamente los productos que necesitamos o a no pasar más tiempo buscando una película que viéndola.

Pero la realidad es que estos programas no solo están escritos para acertar con nuestros gustos o necesidades. También buscan tenernos el mayor tiempo posible enganchados a su contenido, que compremos más o incluso, como explica Silvia Milano, experta en la ética de los sistemas de recomendación e investigadora del Future of Humanity Institute de Oxford, para “formar activamente las preferencias de sus usuarios, incluidas sus opiniones sobre la actualidad”. Aunque esto último hay que leerlo también desde el punto de vista del beneficio empresarial: cuanto más polarización más debate y más tiempo pasan los usuarios en sus plataformas expuestos a la publicidad.

China quiere controlar a sus tecnológicas

China tiene el mayor número de usuarios de internet del mundo y también es el mayor mercado de comercio electrónico, videojuegos y móviles. Aunque en su territorio están censurdas aplicaciones como Facebook, Instagram o Twitter, entre sus empresas tecnológicas también hay gigantes. Suyas son las compañías de comercio electrónico Alibaba, Tencent, que es el líder del mercado de las redes sociales con ‘apps’ como WeChat y de los videojuegos o ByteDance, propietaria de TikTok: la plataforma de video de moda que tiene más de 1.000 millones de usuarios activos al mes.

El año pasado, China ya anunció normas para intentar regular este mercado digital. Introdujo legislación para limitar en menores el tiempo de uso de los videojuegos, una ley pionera en la protección de datos digitales y reglas antimonopolio para las empresas de plataformas de Internet.

Ahora es el turno de los algoritmos de recomendación. Según la Administración del Ciberespacio de China (CAC) — uno de los organismos que ha participado en la elaboración de la ley junto con el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Estatal de Regulación del Mercado—, el objetivo es luchar contra la “discriminación algoritmica”, que según ellos ha llevado incluso a proponer distintos precios por los mismos productos y servicios dependiendo de los hábitos de gasto de los usuarios.

Además, según apunta el South China Morning Post, medio que pertenece a Alibaba, esta regulación también pretende poner fin a la llamada intoxicación de contenidos. Y ponen como ejemplo el algoritmo utilizado por la plataforma de vídeos cortos Douyin, un ‘app’ hermana de TikTok, que mantiene a los usuarios enganchados con su flujo constante de contenidos. Además dice el CAC, muchos de los algoritmos utilizados en los videojuegos están diseñados para que los jugadores en línea pasen más tiempo y gasten más dinero en ellos.

La ley antialgoritmos de recomendaciones

Con la nueva regulación las compañías tendrán que permitir que los usuarios puedan optar por no tener servicios de recomendación a través de algoritmos, aunque también podrán seleccionar o eliminar las etiquetas que se utilizan para alimentar estos servicios. Además las empresas deberán informar a los usuarios sobre los "principios básicos, la finalidad y el principal mecanismo de funcionamiento" del servicio de recomendación algorítmica. Y deberán prestar especial atención a los usuarios más mayores facilitando el "uso seguro" de sus herramientas para protegerlos contra el fraude y las estafas.

TE PUEDE INTERESAR

China adelanta a occidente también en arquitectura

Jesús Díaz

Por otro lado, las empresas no podrán utilizar las recomendaciones de los algoritmos para nada que viole las leyes chinas y sus servicios de recomendación de noticias deberán obtener una licencia y no podrán difundir noticias falsas. Esa licencia ya es obligatoria en la actualidad para los medios de noticias digitales que además tienen prohibido utilizar fuentes de información que no estén en la lista de medios aprobada por el gobierno.

CNBC informa que las empresas que incumplan las normas pueden recibir multas de entre 10.000 y 100.000 yuanes (unos 1.380 y 13.800 euros). Aunque la aplicación de la norma, asegura el medio americano, puede provocar un enfrentamiento entre los reguladores y las empresas tecnológicas. Para que las administraciones puedan detectar las infracciones hace falta que puedan acceder al código de sus algoritmos, algo que las empresas guardan en secreto y que supone uno de sus mayores activos de propiedad intelectual.

Europa a rebufo

Mientras tanto, a este lado del globo, la Comisión Europea tiene sobre la mesa una propuesta de ley que busca actualizar su antigua directiva sobre el comercio electrónico firmada en el año 2000. El Acta de Servicios Digitales y el Acta de Mercados Digitales buscan abordar problemas como la desinformación, la transparencia en la publicidad y el abuso de poder que las grandes tecnológicas ejercen sobre el mercado. El borrador de la ley se aprobó el pasado diciembre y se espera que durante el primer trimestre de este año, bajo presidencia francesa, comiencen las negociaciones con los gobiernos.

En España, el gobierno puso en marcha el pasado verano el Observatorio Social de los Algoritmos que tiene como objetivo “minimizar los riesgos significativos sobre la seguridad y salud de las personas, así como sobre sus derechos fundamentales, que puedan derivarse del uso de sistemas de inteligencia artificial”. Aunque el mayor obstáculo que tendrá este organismo será esa misma 'transparencia algorítmica' a la que también se enfrentan los chinos. Un problema que se va a ir complicando a medida que las inteligencias artificiales vayan siendo capaces de escribir sus propios algoritmos con lenguajes informáticos tan complejos que le harían explotar la cabeza al mismo Mark Zuckerberg.