Alarma ante la inteligencia artificial que decide tu despido

No hace falta imaginar un futuro en el que una inteligencia artificial decida qué personas echar de un trabajo, vigilar y dirigir a los empleados o contratar a una persona sin intervención humana. Ya está pasando y su uso se está disparando sin ningún control legal.

La federación sindical británica —que agrupa a los diferentes sindicatos gremiales del Reino Unido— acaba de publicar un informe que ha hecho saltar las alarmas sobre el uso de la inteligencia artificial para decidir el destino de seres humanos. Un uso que se ha acelerado dramáticamente en la pandemia.

TE PUEDE INTERESAR

Una misión espacial vital para el futuro de la humanidad

Jesús Díaz

El informe realiza varias recomendaciones que tienen bastante lógica si queremos evitar llegar a la distopía por la vía exprés. Todas ellas pasan por la supervisión humana no solo en la creación de estas herramientas, sino en la revisión de sus decisiones. Sin embargo, esto no es tan fácil como puede parecer.

Despedido automáticamente

El caso de un hombre que fue despedido automáticamente por una máquina en 2018 da una idea de la potencial magnitud del problema. Un programa decidió despedir a Ibrahim Diallo —un ingeniero que solo llevaba ocho meses de un contrato de tres años en una empresa de desarrollo de 'software'— cortando su acceso al rascacielos en el que trabajaba e iniciando un proceso totalmente automatizado que terminó con él escoltado fuera del edificio.

Como Diallo contó en su artículo 'La máquina que me despidió', aunque nadie quería despedirlo, ningún humano pudo hacer nada por solucionarlo. Después de esperar unos días para ver si se solucionaba, Diallo decidió irse a otra compañía de 'software'.

TE PUEDE INTERESAR

El Pentágono desarrolla partículas invisibles para controlar tu cerebro

Jesús Díaz

Desgraciadamente, no todo el mundo es un codiciado ingeniero de 'software' trabajando en California. El caso de Diallo es un anécdota porque fue producto de un error, pero es indicativo de las consecuencias de la aplicación de algoritmos automatizados sin control humano, que es precisamente lo que están denunciando varias fundaciones, científicos y organizaciones como la federación sindical británica.

La trituradora de Amazon

La situación es mucho más precaria para la inmensa mayoría de los empleados, desde oficinistas hasta mozos de almacén. La trituradora de seres humanos que es Amazon es un buen ejemplo de ello.

Las siniestras condiciones laborales en los almacenes del gigante minorista han sido documentadas en repetidas ocasiones, así que no vamos a entrar en cómo los empleados se ven obligados a orinar en botellas para no perder segundos de su tiempo y terminar en la calle.

En 2019 varios documentos salieron a la luz demostrando cómo la compañía de Jeff Bezos había implementado sistemas de inteligencia artificial para optimizar sus almacenes y despedir a empleados.

Es un ejemplo de una lista que ya es bastante larga. En 2020, un grupo de conductores holandeses denunciaron a Uber y Ola —una compañía india de transporte de pasajeros— por utilizar un algoritmo para echarlos a la calle o castigarlos con descuentos en las tarifas de sus carreras. Terminaron perdiendo parte del pleito, pero los jueces forzaron a Ola a revelar los parámetros que regulan su algoritmo de penalización.

Un futuro oscuro sin regulación

Esto último es uno de los grandes problemas de utilizar la inteligencia artificial para gestionar trabajadores, ya sea para contratarlos, despedirlos o gestionar su trabajo: las máquinas son imparciales, pero la realidad es que los algoritmos de inteligencia artificial son discriminatorios por naturaleza.

TE PUEDE INTERESAR

La extraña lente líquida que puede cambiar la fotografía para siempre

Jesús Díaz

Las discriminaciones surgen por sus métodos de aprendizaje. Un sistema de redes neuronales no sabe más de lo que le enseñamos, alimentándose con decenas de miles de casos y midiendo cientos de variables. Hay miles de estudios que demuestran que las AI cojean del mismo pie del que cojean los maestros que los entrenan, desde algoritmos de visión que confunden rostros negros —que han hecho que personas acaben en la cárcel por equivocación— a otros que eliminan los 'curriculum vitae' de mujeres de la lista de candidatos a un trabajo.

Obviamente, los gabinetes de abogados laborales ya están afilando los cuchillos para enfrentarse a un escenario que —según los expertos— puede ser la norma de aquí a tres años.

Necesitamos un marco legal urgentemente

Según la asociación sindical británica, si queremos evitar llegar a la distopía laboral, los gobiernos deberán crear un marco legal que regule el uso de las inteligencias artificiales para este tipo de usos.

TE PUEDE INTERESAR

Crean un perro robot para tratar pacientes con covid-19

Jesús Díaz

Ellos proponen que todas las herramientas de AI que se introduzcan deben ser antes consultadas y explicadas a los trabajadores, y que esto debe ser un deber legal. También proponen algo que parece lógico: el derecho del trabajador para solicitar que la decisión de un algoritmo sea revisada por humanos. También proponen enmiendas a las leyes laborales actuales en el Reino Unido que establezcan guardarraíles contra algoritmos discriminatorios.

Son recomendaciones lógicas, pero que pueden ser de difícil aplicación porque los algoritmos de aprendizaje de los sistemas de inteligencia artificial actuales resultan en verdaderas cajas opacas casi imposibles de descifrar. Lo que la revista científica 'MIT Review' llama el corazón negro de la inteligencia artificial: los científicos son incapaces de comprender por qué los algoritmos funcionan.

Como apunta la consultora Korn Ferry: la inteligencia artificial no tiene por qué mostrar un motivo por el que hay que eliminar a alguien de su puesto de trabajo. Sencillamente lo hace, como una especie de dios omnipotente y omnisciente. “Si el algoritmo lo dice, tendrá razón”, piensan los jefes. Hasta que el algoritmo los eche.