Deputada denuncia ‘racismo algorítmico’ após IA criar imagem dela armada

Deputada acredita que reprodução de imaginário de violência nas favelas coloca pessoas negras em risco - (crédito: Reprodução/Twitter)

Correio Braziliense

E-mail

postado em 26/10/2023 20:16

Nesta quinta-feira (26/10), a deputada estadual Renata Souza (Psol-RJ) denunciou racismo nos algoritmos de uma inteligência artificial do Microsoft Bing após a ferramenta gerar imagem de uma mulher negra armada. A parlamentar alega que pediu para a IA um desenho de “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”. “Em momento nenhum eu falei sobre armas”, apontou Renata em vídeo publicado no Instagram.

Nas redes sociais, Renata publicou uma foto dela em uma favela do Rio de Janeiro com o diploma de ensino superior ao lado da foto gerada por IA. Segundo a parlamentar, o caso se trata de “racismo algorítmico”, a reprodução de estereótipos racistas por uma ferramenta de inteligência artificial. “Em um mundo forjado pela branquitude, que tem o domínio sobre as tecnologias, a reprodução da estrutura racista se dá em todos os espaços e ferramentas”, destacou.

Racismo algorítmico!

Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de… pic.twitter.com/Eq84l9gBbU
— Renata Souza (@renatasouzario) October 26, 2023

Presidente da Comissão Parlamentar de Inquérito (CPI) do Reconhecimento Fotográfico, a parlamentar comentou que observa “o quanto pessoas negras podem ser vitimadas por mecanismos, como o reconhecimento facial, mesmo sendo inocentes”. Para ela, a reprodução do imaginário de violência nas favelas pelas IAs coloca pessoas negras em risco. A deputada afirmou que está analisando as medidas cabíveis e entrará em contato com responsáveis pela plataforma Microsoft Bing.

Ao Portal G1, a Microsoft informou que investiga o caso e que tomará medidas adequadas para ajustar o serviço. "Acreditamos que a criação de tecnologias de IA confiáveis e inclusivas é um tema crítico e algo que levamos muito a sério", diz a nota.