El fiasco del 'software' de reconocimiento facial de Amazon: ni sus clientes se fían

La apuesta de Amazon por el reconocimiento facial es clara y siempre ha defendido su 'software' contra viento y marea, pero lo cierto es que las polémicas no cesan. Después de tener que combatir contra las investigaciones que acusaban a Rekognition (así se llama el programa) de tener sesgos racistas, machistas y ser tremendamente inexacto, ahora se ha descubierto que ni su único cliente reconocido públicamente se fía del programa ni lo usa como debería.

La noticia la ha dado este viernes el medio estadounidense Gizmodo que decidió hablar con Oficina del Sheriff del Condado de Washington (Oregon), única institución que dice de forma oficial haber comprado estos servicios de la compañía de Jeff Bezos. Aunque la empresa da unas pautas claras para su uso, incluso con una guía centrada en las fuerzas estatales, esta oficina confiesa que no siguen estas pautas y que lo utilizan para lo que ellos creen conveniente.

TE PUEDE INTERESAR

Amazon obliga a los empleados de almacén a llevar chalecos para no chocar con sus robots

Teknautas

Amazon explica en su guía que los clientes que usen este servicio que pertenece a Amazon Web Services (AWS) solo deberían dar como bueno una coincidencia menor del 99% cuando se trata de casos de personas desaparecidas en las que se tiene un alto volumen de imágenes archivadas, pero en este condado estadounidense hacen oídos sordos a estas recomendaciones. "Nosotros no establecemos ni utilizamos umbrales de coincidencia", explican. Es más, usan el programa para muchas más cosas que buscar personas desaparecidas, como por ejemplo para casos de robo o hasta homicidios.

En la imagen que te dejamos a continuación se ve claramente. En una presentación del programa realizada por la oficina del sheriff dan como buena una coincidencia del 96% cuando, siguiendo las recomendaciones de Amazon, este caso debería haber sido descartado. Eso sí, ellos se defienden asegurando que nunca han visto los resultados como coincidencias sino como pistas para los investigadores. "A nuestros investigadores no se les permite tomar medidas basadas únicamente en una coincidencia de un programa".

Por su parte, Amazon se ha negado a indicar si vigila que sus clientes cumplen con sus recomendaciones, pero hace referencia a un artículo publicado en su blog en el que dejan claro que suspenderán a cualquier usuario que haga un mal uso de sus sistemas. Eso sí, confirman que lo que hacen en la oficina del sheriff no se salta ninguna de sus normas.

"Rekognition ha demostrado ser eficaz para ayudar a los oficiales de esta institución a identificar a potenciales criminales, realizar investigaciones y detener a sospechosos potencialmente peligrosos que de otra manera podrían haber escapado. La Oficina del Sheriff del Condado de Washington ha sido completamente transparente sobre el uso de la tecnología y nunca se ha reportado una sola queja de los usuarios, ni problemas con los vecinos en relación con el uso del sistema", apuntan.