Las protestas contra el racismo y la Polícía en Estados Unidos han provocado consecuencias en el ámbito tecnológico, como la decisión de IBM de abandonar el reconocimiento facial y desaconsejar su uso por parte de los agentes del orden.

Probablemente presionado por la decisión de su competidor, Amazon ha anunciado una moratoria de un año en el uso de su software Rekognition por parte de la Policía. La razón para tomar esta medida reside en las preocupaciones por su sesgo racista.

Y es que los sistemas de reconocimiento facial basados en inteligencia artificial están, desde hace años, en el punto de mira de los activistas por los derechos humanos. Diferentes estudios han demostrado que discriminan a los negros, y a las personas de piel oscura en general, pero especialmente a las mujeres debido a que éstas presentan más problemas a la hora de ser distinguidas por estos sistemas.

“Esperamos que una moratoria de un año dé tiempo al Congreso para aprobar las reglas necesarias” que permitan hacer un uso ético de estas tecnologías, ha anunciado Amazon en su blog. Sin embargo, la tecnología sí permanecerá disponible para las organizaciones centradas en la trata de personas.

La Policía utiliza la tecnología de inteligencia artificial de Rekognition para hacer coincidir rápidamente una imagen con los cientos de miles de fotos que hay en las bases de datos de este sistema. Pero los estudios muestran que es más probable que los algoritmos de reconocimiento facial identifiquen erróneamente los rostros de las personas negras y otras minorías étnicas, en comparación con las personas blancas.

Esta misma semana IBM también confirmaba que dejaría de ofrecer su software de reconocimiento facial para "vigilancia masiva o perfil racial". La compañíase se ha comprometido a trabajar con el Congreso de Estados Unidos para desarrollar una reforma policial, plantear el uso responsable de la tecnología y ampliar sus oportunidades educativas.