Fernanda Duarte
Digite "homem" e "violência" no seu mecanismo de pesquisa favorito na internet e, provavelmente, você verá imagens de homens negros entre os resultados principais. E, não, eles não serão presumidos como vítimas. Já quando você digita "homem branco" e "violência", o resultado costuma ser bem diverso.
Isso não é novidade, nem raro de acontecer, infelizmente. Atuo na área de comunicação digital há mais de uma década, e, apesar de muitos avanços na luta pela equidade racial no Brasil e no mundo, continuo a me deparar com imagens estereotipadas e preconceituosas nos resultados de buscas na internet, redes sociais e até mesmo em serviços pagos de banco de imagens quase todas as vezes em que vou selecionar imagens de pessoas negras para ilustrar ou produzir conteúdos.
A verdade é que as inovações tecnológicas nos trouxeram muitas facilidades, mas, com elas, também vieram novos problemas ou novas formas de se apresentar os antigos. E é exatamente esse o ponto que me preocupa: a tecnologia que é ferramenta de trabalho, que nos entretém e nos facilita a vida, é a mesma que vem possibilitando novos campos de reverberação da discriminação racial. É o chamado racismo tecnológico. Um fenômeno que, à medida que as inovações tecnológicas vão se tornando cada vez mais integradas em nossas vidas, emerge ampliando desigualdades raciais já existentes por suas implicações discriminatórias.
Um recente estudo norte-americano levantou sérios questionamentos sobre a alardeada imparcialidade de sistemas de algoritmos baseados em inteligência artificial usados na seleção de currículos para postos de trabalho. Verificou-se que tais sistemas, na verdade, favoreciam candidatos brancos. O motivo? Não eram neutros. Eram treinados com dados que refletem as desigualdades raciais preexistentes.
Problemático também é o caso dos sistemas de segurança policial por reconhecimento facial, implementados na maioria dos estados brasileiros. Essas ferramentas apresentam taxas de erro significativamente mais altas em pessoas de pele escura, o que as leva a ter maior probabilidade de serem identificadas e detidas "por engano". Não à toa, segundo dados da Rede de Observatórios de Segurança, 90% das prisões usando esse método em 2019, ano de implantação dessas tecnologias, foram de pessoas negras.
Situações como essa, todavia, não podem ser tidas como simples falhas de sistema. Elas demonstram como o racismo estrutural está sendo atualizado e segue, por novos meios, perpetuando a marginalização e a criminalização da população negra. Não quero, com esse artigo, demonizar os avanços tecnológicos, mas dizer que é imperativo enfrentar os desafios que surgem com eles. Virar o jogo, contudo, não é simples.
Dentre as possíveis ações para começar essa batalha, é essencial garantir que a transparência no desenvolvimento e uso de algoritmos seja efetiva e acessível. Hoje, a Lei Geral de Proteção de Dados (LGPD), um grande avanço brasileiro na área, prevê, em seu artigo 20, o fornecimento de "informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada" pelas empresas de tecnologia, sempre que solicitadas e observados os segredos comercial e industrial. Mas o quanto isso verdadeiramente está ao alcance das pessoas?
Vejo ainda ser urgente e necessária a implementação de programas educacionais sobre ética digital e algoritmos nas escolas, abordando questões ligadas à diversidade. A maioria dos brasileiros e brasileiras sequer sabe o que é um algoritmo, quando deveriam ser capazes de questionar e entender o impacto desse tipo de tecnologia na própria vida e na vida de quem é discriminado por ela.
Por último, e não menos importante, penso que seja imprescindível aumentar esforços para assegurar a representatividade social equitativa em equipes de desenvolvimento tecnológico. Iniciativas como programas de mentoria e bolsas de estudo e capacitação para pessoas negras vêm se mostrando bastante eficazes para esse propósito. Em suma, a tecnologia não deve ser um instrumento a mais de discriminação, mas uma força para a inclusão e a igualdade. O racismo tecnológico é uma realidade que não pode mais ser ignorada.
* Professora, tradutora, jornalista, especialista em jornalismo digital e em mídias na educação