Erros descobertos em um sistema de reconhecimento facial da empresa de comércio eletrônico Amazon provocaram nesta semana grande reação de políticos nos Estados Unidos. Entidades de defesa de liberdade civis e senadores cobraram explicações da companhia e de órgãos públicos quanto ao uso da tecnologia.
A fim de avaliar falhas nos procedimentos, a Associação para as Liberdades Civis dos EUA (ACLU, na sigla em inglês) realizou teste com um programa de reconhecimento facial utilizado pela Amazon chamado ;Rekognition;. Entre deputados e senadores, o sistema ;identificou; 28 representantes como criminosos. A ferramenta relacionou as imagens dos políticos a fotos em bancos de dados de pessoas pressas.
Além do erro no reconhecimento, a associação indicou um funcionamento discriminatório no caso de pessoas negras. Cerca de 40% dos políticos falsamente identificados como criminosos pertenciam a esse segmento, embora ele represente apenas 20% dos membros do Congresso, cujas fotos foram submetidas ao teste.
Uma das preocupações da associação é o fato do sistema ser comercializado pela Amazon a preços baixos, podendo ser utilizado pelas mais diversas instituições públicas, como polícias e outras forças de segurança. Se a ferramenta não funciona adequadamente, agentes podem cometer abusos em investigações ou até mesmo em prisões baseados em reconhecimentos que não correspondem à realidade.
Segundo a associação, a Amazon tem feito um marketing agressivo para comercializar a ferramenta para forças de segurança. O argumento é que ela pode identificar até 100 rostos em uma foto. Ainda de acordo com a entidade, já há registro de departamentos estaduais de polícia adotando a tecnologia. Por esses problemas, a ACLU questiona a participação da Amazon em negócios e serviços que envolvam vigilância e cobra da empresa que ela saia dessas atividades.
;Negros já são prejudicados de maneira desproporcional por práticas de policiais. É fácil ver como o sistema Rekognition pode exacerbar isso;, afirmou a ACLU em comunicado oficial. Um exemplo citado na nota foi o fato de uma senhora negra parada pela polícia na cidade de San Francisco. Ela foi colocada de joelhos, sob a mira de uma arma, porque o sistema dos oficiais havia identificado erroneamente a placa do carro dela como a licença de um veículo roubado.
Cobrando explicações
Em maio, a coalizão de congressistas negros dos EUA (Congressional Black Caucus) havia encaminhado carta ao presidente da Amazon, Jeff Bezos, expressando preocupação com a adoção do Rekognition. ;Estamos preocupados com as consequências não pretendidas que essa forma de inteligência artificial pode ter para americanos negros, imigrantes não registrados e protestantes;, afirmaram os parlamentares.
Após a divulgação do teste da ACLU, três senadores do Partido Democrata ; Ron Wyden, Cory Booker e Ed Markey - cobraram explicações de 39 órgãos públicos do país das mais variadas áreas, de defesa a comércio, incluindo as agências de segurança. No documento, os parlamentares pedem que as instituições relatem o eventual uso de algum sistema de reconhecimento facial, a partir de quais parâmetros, os objetivos, como está se dando essa adoção e como a precisão é garantida ou fiscalizada.
No documento, os senadores admitem que os programas de reconhecimento facial têm ficado mais acessíveis, mas alertam para os riscos de uso inadequado delas. ;Essas tecnologias vêm com riscos inerentes, incluindo o comprometimento do direito de americanos à privacidade, assim como vieses raciais e de gênero;, comentaram.
Amazon
Em seu site, a Amazon publicou nota, assinada por Matt Wood, rebatendo o estudo da ACLU. No texto, a empresa questionou a metodologia e a base de imagens usadas. Wood afirmou ainda que o sistema Rekognition não deve ser usado na área de segurança pública como critério único e autônomo para tomada de decisões, mas como uma forma de apoio aos agentes.
Estes últimos, acrescentou Matt Wood, devem supervisionar e tomar as decisões. Entretanto, o representante da Amazon defende que as tecnologias de reconhecimento facial já são mais eficientes do que o olhar humano para identificar imagens. ;Não devemos jogar fora o forno porque foi regulado de forma errada e queimou a pizza;, concluiu.