Polémica racista en Reino Unido por usar IA para detectar matrimonios de conveniencia

• Así es la inteligencia artificial capaz de detectar supernovas sin intervención humana
• Dos años y medio de cárcel por crear imágenes de abuso con inteligencia artificial

El diario británico The Guardian ha llevado a cabo una investigación con el objetivo de determinar el uso que hacen los funcionarios públicos de los sistemas de inteligencia artificial (IA). El resultado es que, actualmente, los emplean para casi todo, incluso para resolver cuestiones muy sensibles y complejas. Es el caso, por ejemplo, de la concesión de ayudas y permisos de residencia o para detectar matrimonios de conveniencia.

En total, el periódico asegura que al menos ocho ministerios del gobierno británico y varias divisiones policiales emplean la IA como ayuda para tomar decisiones sobre bienestar, inmigración y justicia penal. El problema está en que, según The Guardian, estas herramientas tienen un elevado potencial discriminatorio. Cita como ejemplo un algoritmo empleado por el Ministerio del Interior que recomienda la investigación de matrimonios cuando uno de los dos cónyuges posee una nacionalidad concreta.

Sin embargo, no es el único ejemplo que ofrece. Además, habla de un software de IA utilizado por el Ministerio de Trabajo y Pensiones (DWP, por sus siglas en inglés) que retiró por error decenas de prestaciones a familias con hijos. También hace referencia a una herramienta de reconocimiento facial usada por la Policía Metropolitana de Londres que, en situaciones de alto riesgo (manifestaciones, partidos de fútbol con grupos ultras enfrentados, etc.), selecciona en mucha mayor medida a personas de color.

Según la fuente, los sistemas de IA se entrenan con datos que, si son discriminatorios, dan como resultado herramientas injustas. Por tanto, el artículo de The Guardian podría revelar un problema mucho más profundo en el seno de Whitehall. Actualmente, el gobierno británico quiere evitar a toda costa que se produzca un caso parecido al de Países Bajos, cuya autoridad fiscal retiró inmerecidamente decenas de prestaciones para el cuidado infantil por supuesto fraude tras la recomendación de un algoritmo.