El algoritmo que ha dejado sin prestación a 70.000 desempleados

Que una máquina inteligente sea la responsable de gestionar tus ingresos es hasta cierto punto preocupante. Los funcionarios del Servicio de Empleo Público de Suecia ("Arbetsförmedlingen", en su idioma) acaban de emitir un informe en el que revelan un fraude en el algoritmo encargado de dispensar el subsidio de desempleo a 70.000 personas en paro, según informó 'Algorithm Watch'. El caso ha llevado a un intenso debate nacional en el que se pone en duda la eficacia y seguridad de un sistema social regulado por tomas de decisiones automatizadas.

Suecia presume de ser uno de los países más avanzados en innovación tecnológica. El país lleva desde hace años dedicando una gran parte de sus presupuestos a las áreas de investigación y desarrollo científico, lo que le ha consolidado como una de las grandes potencias tecnológicas y científicas del mundo. Según la UNESCO, hay 5.256 científicos por cada millón de personas, unos números únicamente superados por Finlandia (7.717), Dinamarca (6.774), Singapur (6.307), Noruega (5.408) y Corea del Sur (5.380). Esto revierte en una transformación tecnológica en el plano empresarial, laboral e institucional que ha conseguido automatizar los procesos y revolucionar el trabajo gracias a los avances en inteligencia artificial y Big Data. Pero hasta las máquinas son imperfectas. O quizás más listas de lo que parecen y todos sus fallos son a propósito.

Pueden ocurrir errores, pero nos sorprende que la agencia haya esperado tanto tiempo para informar a los afectados

Las dudas comenzaron el pasado otoño, cuando los funcionarios se percataron de que el sistema informático no estaba generando las cartas de asistencia social que se envían a los demandantes. Los burócratas descubrieron que entre un 10% y 15% de las decisiones probablemente eran incorrectas, informa el medio local 'SVT'. El gobierno introdujo este sistema informático de verificación para comprobar si las personas que reciben un tipo de subsidio por desempleo cumplen con sus obligaciones, entre ellas, buscar activamente trabajo, enviar avisos o retener pagos si no cumplían los requisitos. Se supone que esta medida ayudaría a aumentar la eficiencia, pero desde el otoño pasado el sistema ha colapsado y los humanos han vuelto a ocupar su lugar para corregir el problema cuanto antes.

“Desafortunado”. Así lo calificó Adnan Habibija, oficial de investigación de la Confederación de Sindicatos. “Esto puede haber generado incertidumbre en muchos beneficiarios cuya situación económica depende de los pagos del seguro de desempleo. Pueden ocurrir errores, pero nos sorprende que la agencia haya esperado tanto tiempo para informar a los afectados, a sus propios empleados, al gobierno y a las otras partes interesadas”.

¿Un algoritmo o un funcionario?

¿Fallo accidental? Las investigadoras Anne Kaun y Julia Velkova de 'Algorithm Watch' alertaron sobre esta tendencia creciente en toda Europa de utilizar algoritmos para agilizar y resolver los procesos burocráticos. “La administración pública sueca ha comenzado a reemplazar a personas por algoritmos para decidir todo, desde los pagos de asistencia social hasta la manutención infantil o prestaciones por enfermedad”, denuncian, en un artículo titulado '¿Está Suecia dispuesta a dejar que las máquinas tomen las decisiones?', publicado en el diario sueco 'Dagens Nyether'. “Los ciudadanos no saben si su decisión ha sido tomada por un algoritmo o un funcionario”.

Todos los casos serán corregidos, siempre que sus afectados se pongan en contacto con el Servicio Público de Empleo

Kaun y Velkova trabajan en investigar el procesamiento de las solicitudes en la ciudad de Trelleborg, al sur de Suecia. El municipio utiliza máquinas para clos datos de los solicitantes con otros departamentos gubernamentales, como la oficina de impuestos. Es un ejemplo más de la creciente tendencia de relegar la toma de decisiones a una máquina. En su informe, alertan sobre la falta de supervisión humana en juicios que afectan a millones de ciudadanos.

Por su parte, los suecos que participan en el programa estatal están obligados a presentar un informe de su actividad todos los meses que se puede realizar registrándose en el sitio web gubernamental, por vía telefónica o bien rellenando un formulario en papel. La agencia aseguró que los problemas con el sitio web y con los formularios fueron algunos de los factores que llevaron a que el sistema informático emitiera sanciones de manera incorrecta.

TE PUEDE INTERESAR

“Los algoritmos son invenciones culturales: pueden ser más racistas que nosotros”

Héctor G. Barnés

“Todas las personas que se han visto afectadas de manera directa tendrán sus casos debidamente corregidos, siempre que se pongan en contacto con el Servicio Público de Empleo”, ha anunciado la agencia. La misma semana que saltó la noticia a la opinión pública también se comunicó el lanzamiento de un segundo sistema de algoritmos para decidir quién tiene derecho al empleo público, ofrecido a personas desempleadas de larga duración o a inmigrantes recién llegados. Dentro de dos años, se espera que la administración automatice otros dos servicios públicos, según informó 'SVT'.

'Biohackers' e inteligencia artificial

La población sueca destaca por ser una de las más confiadas ante la idea de una aldea global digitalizada. En mayo del año pasado saltó a los medios internacionales la noticia de que 3.500 individuos se han sometido a la implantación de los chips subcutáneos para pagar o identificarse sin necesitar tarjetas, billetes o llaves. Moa Petersen, profesora de cultura digital en la Universidad de Lund, confirma la pasión de buena parte de la ciudadanía por el 'biohacking'.

“La cultura sueca del 'biohacking' difiere del resto de Europa”, admite Petersen en 'The Conversation'. “Los 'biohackers' suecos comulgan por lo general con el movimiento transhumanista, centrados en mejorar el cuerpo humano, con el objetivo a largo plazo de mejorar la raza humana. Solo mediante el perfeccionamiento de nosotros mismos y el escape de los límites biológicos, podremos competir con la inteligencia artificial del futuro”.