Racismo algorítmico: a inteligência artificial a serviço da discriminação

NAOMI CARY Formada em ciências sociais pela Universidade de Brasília (UNB) atua como videomaker e conteudista, participante de coletâneas literárias e blogs; dirige o programa Talk show do século, com estreia marcada para este verão


Com a popularização das redes sociais, internalizamos a falácia de que o silenciamento e a invisibilidade das narrativas de pessoas negras poderiam ter fim, mas não é isso exatamente o que temos visto. Mesmo sendo, muitas vezes, protagonistas na produção do conteúdo, a forma como ele (não) é distribuído faz com que falemos para ninguém ouvir. Mas, antes de falar sobre o racismo algorítmico, temos que entender o que é o algoritmo e para que(m) ele serve.

O algoritmo nas redes sociais é uma sequência de ações ou conjunto de dados e regras estabelecidas por cada rede social. Por exemplo, quando você entra no Instagram e decide descer o feed ou clicar nos stories, o que vai ser mostrado em cada caso é escolhido a partir do conjunto de dados que a rede tem das suas ações anteriores, além dos dados sobre quando essa postagem foi feita e como foi a recepção dela por outros usuários.

Se o objetivo das redes sociais é manter as pessoas conectadas o máximo de tempo possível, elas precisam estar constantemente nos tocando de alguma forma. Imagina uma pessoa que baixa o Tinder ou alguma outra rede social de “paquera” e não encontra ninguém que a atraia durante um dia inteiro? Ela vai desinstalar o aplicativo. O mesmo acontece nas demais redes: se o Instagram ou o Twitter mostrar conteúdos que não tocam os usuários, eles os perdem. O algoritmo é a forma pela qual as redes sociais escolhem o conteúdo que vai ser mostrado para cada pessoa, para que, assim, fiquemos o máximo de tempo na frente do celular.

Então, o que é racismo algorítmico, afinal? Algoritmos são conjuntos de dados, regras e ações construídos por pessoas. Essas pessoas são “programadoras”, ou seja, tradutoras da linguagem humana para a linguagem computacional. Quando a plataforma Netflix pausa a exibição e, na tela, aparece aquele aviso “Tem alguém assistindo?”, isso foi um programador que deu o comando, por meio de uma linguagem específica: “A cada três horas de exibição, pause e mostre o aviso”.

E aí é que está o problema: a maioria dos programadores — que agrupam esses dados e regras — é formada por homens, brancos, cisgêneros (ou seja, que se identificam com o gênero que foram designados ao nascer), na maioria, europeus ou estadunidenses. São eles que têm o poder de definir para quem será apresentado cada tipo de conteúdo. Um anúncio de subemprego pode ser direcionado em massa para pessoas negras, enquanto um anúncio de cargos de chefia pode ser direcionado para pessoas brancas. Ou seja, o algoritmo faz com que as redes sociais sejam a visão de um grupo seleto de pessoas sobre o que milhares de outras devem ou querem consumir.

Tal enviesamento tecnológico, causado pelas falhas na educação de pessoas negras, pela não contratação de profissionais negros na área da tecnologia e pelas pressões que sofrem os poucos que são contratados, gera uma parcialidade nas funções computacionais, fazendo com que os algoritmos discriminem — ou simplesmente não reconheçam — imagens ou qualquer conteúdo digital de pessoas negras ou não brancas.

Para criar um banco de dados, por exemplo, do que é uma festa ou uma cadeira, o programador vai inserir várias imagens desses eventos ou objetos. Se ele só colocar um tipo de festa ou um tipo de cadeira, é o que o algoritmo vai reconhecer como tal. Várias pessoas negras têm sido vítimas da tecnologia de reconhecimento facial, que não conseguem reconhecer rostos de pessoas negras, por que elas fogem da descrição de pessoa que o programador ou o grupo de programadores repassou ao sistema de algoritmos na sua construção ou que não conseguem discernir uma pessoa negra de outra, o que, no contexto de segurança pública, aumenta as chances de pessoas negras serem injustamente condenadas por crimes que não cometeram.

Nós, pretos, acreditávamos que, uma vez sendo produtores/as de conteúdo, iríamos conseguir criar redes e meios para compartilhar ideias e produtos entre a comunidade negra, mas ainda estamos sendo mais espectadores ou vítimas do que agentes ou protagonistas nesse processo. Uma vez que produzimos o conteúdo, mas não podemos determinar (ou, ao menos, contribuir para tanto) a quem ele vai chegar, com que relevância e com que potência, perdemos muito mais do que imaginamos. E se, para quem trabalha com produção de conteúdo, engajamento é dinheiro — tanto para os influencers de fato quanto para outras pessoas envolvidas nesse processo, como videomakers e produtores — estamos novamente sendo engolidos por um sistema que nos oprime e nos impede de ascender.

O estigma associado às doenças mentais na sociedade brasileira

RENATA GIRALDI Jornalista, professora universitária, graduada em jornalismo e história, com doutorado e mestrado em Comunicação pela Universidade de Brasília (UnB). Atualmente, desenvolve pesquisa de pós-doutorado sobre a estigmatização dos transtornos mentais e comportamentais e o papel da imprensa

O tema da redação do Enem 2020 “O estigma associado às doenças mentais na sociedade brasileira” acende a luz de alerta, sobretudo neste período dos impactos da pandemia da covid-19, das medidas de isolamento, sem beijos nem apertos de mão tampouco festas e aglomerações, afetando as relações interpessoais e consigo mesmo. Comportamentos que atingiram em cheio a sensibilidade, deixando um rastro de queixas de depressão, angústia e pânico. Estimativas da Organização Mundial de Saúde (OMS) mostram que só a depressão e a ansiedade possuem um impacto econômico global de um bilhão de dólares por ano. Para os estudantes, um desafio imenso redigir um texto dissertativo-argumentativo com opiniões e análise em torno do estigma, da doença mental e da sociedade brasileira. Certamente, muitos deles sentem na pele algum tipo de transtorno, se a experiência não é pessoal, é com alguém próximo.

Estudos indicam que em torno de 450 milhões de pessoas no mundo preenchem critérios para o diagnóstico de algum tipo de transtorno mental, dos quais 80% vivem em países de baixa e média renda. O conceito de doença mental não obedece apenas a critérios clínicos, mas também morais, históricos e culturais. O todo deve ser considerado para uma análise completa. No Brasil, estimativas recentes mostram que os transtornos depressivos e ansiosos respondem, respectivamente, pela quinta e sexta causas de anos de vida vividos com incapacidade, necessário considerar ainda o suicídio, importante causa de morte evitável. De acordo com a OMS, o suicídio é a terceira causa de morte de jovens brasileiros que têm de 15 a 29 anos. São pessoas que passam a conviver com estereótipos e estigmas que atingem não só a si, como também a família, os amigos e as instituições psiquiátricas.

O doente mental é, para muitos, uma espécie de pária social — não se fala sobre ele nem se comenta o que tem de fato. Simplesmente é isolado do convívio e, por vezes, confinado, gerando consequências sociais e econômicas — é a marca social, a cicatriz, o estigma. Do grego, a palavra “estigma” significa picada, feita com ferro em brasa no braço dos escravos, marginais e criminosos, representava a desgraça social. Não era relacionada aos transtornos mentais, mas associada à vergonha, humilhação e desvalorização, surgindo aí os estereótipos, padrões estabelecidos pelo senso comum, baseados na ausência de conhecimento sobre o tema.

A pergunta que fica é: como aquele que sofre com algum tipo de transtorno mental ou comportamental pode pertencer à sociedade de forma produtiva e participativa, sem estigma, nem o peso de estorvo ou inviabilidade, incluindo os dependentes químicos e de álcool, doentes, conforme Classificação de Transtornos Mentais e de Comportamento da CID 10 de 1993, publicada pela OMS, não cabendo julgamento moral ou religioso sobre eles? Certamente, o caminho exige tratamentos específicos seja via Sistema Único de Saúde (SUS), seja em unidades privadas. Assistentes sociais passam os dias buscando convencer as famílias sobre a necessidade de reinserção social dos doentes e que o lar é o melhor local para eles, considerando que a psiquiatria humanizada, conforme a Lei nº 10.216, de 2001, contrária à institucionalização do paciente em reação a estereótipos e estigmas.

Na pesquisa de pós-doutorado, caminho com a convicção de que o percurso para inserção social é diretamente relacionado ao da informação e do combate ao estigma. Estudo publicado no Journal of Health Psychology, em 2006, destaca que a mídia tem papel preponderante no enfrentamento do estigma e do desconhecimento em relação às patologias de ordem mental, mostrando a necessidade de elaborar um “retrato” a partir da empatia e de informações precisas, incluindo novelas, séries e filmes.

Particularmente, acredito na mídia, principalmente na imprensa como instrumento essencial de transformação, apresentando os programas do SUS, indicando sua importância no âmbito da saúde mental, alternativas de participação daqueles que sofrem com transtornos psiquiátricos, provocando a reflexão e a mudança de valores, gerando novas atitudes nas gerações presentes e futuras.

Visto, lido e ouvido

Desde 1960 Circe Cunha (interina) circecunha.df@dabr.com.br

Placebos políticos

Por certo, a pandemia deixará como legado ao Brasil e ao resto mundo uma gama enorme de experiências e aprendizados que servirão de lição e preparo para um futuro da humanidade que parece cada vez mais incerto e desafiador. Essas experiências, absorvidas no calor dos acontecimentos, terão seus reflexos para além das áreas de saúde pública e sanitarismo, atingindo em cheio e de supetão diversos projetos políticos, econômicos, sociais e tecnológicos dentro e fora do país.

Obviamente que essas experiências, com uma realidade tão adversa, serão aproveitadas em maior e menor graus de acordo com a capacidade de cada governo em assimilar fatos novos e deles extraírem o máximo possível de lições práticas em benefício de suas populações.

Para aquelas nações cujos os governos se mostram mais arrivistas e dispostos a tudo pelo poder, as experiências trazidas pela pandemia de covid-19 representarão mais do que um castigo e uma penitência. Com elas, virão embutidas a insatisfação popular, os baques econômicos e um cenário de terra arrasada, que tornarão a permanência no cargo, um exercício penoso e gerador de grande instabilidade.

Nessa altura dos acontecimentos, com mais de um ano de quarentena e de paralisação parcial da atividade econômica, com quebradeiras e falências generalizadas, apenas os governos que se mostraram capazes de levar a bom termo a pandemia e suas consequências diretas, com adoção de medidas racionais e ponderadas e onde os agentes políticos passaram a encarar o problema como uma emergência nacional e, portanto, suprapartidária, as recompensas políticas não tardarão.

Para aqueles que, ao contrário, assumiram uma posição de negação dos males trazidos por essa virose ou que usaram dessa doença para extrair benefícios políticos e partidários, desprezando a adoção de medidas emergenciais de saúde, a penalização virá a galope, quer na forma de rejeição nas urnas, quer por meio da abreviação do mandato pelo caminho brusco do impeachment. A esses, denominados negacionistas, como é o caso do ex-presidente Donald Trump, nos Estados Unidos, banido do Executivo, a punição ou a conta pelos desacertos poderão, num cenário futuro extremo, ir parar nas Cortes de Justiça internacionais, em que poderá ter de se defender de acusações de crimes gravíssimos, semelhantes a crimes de guerra ou ao genocídio. Não se brinca com a vida de populações inteiras impunemente. O tribunal internacional deve avaliar os países que cometeram esse erro. Todos os países. Sem exceção.

Não se trata, aqui, de um exercício de futurismo sem lógica, mas de um prognóstico que, por certo, não contribuirá para abrandar o cenário de pandemia e suas consequências, trazendo, isso sim, mais tumulto a um país já com milhares de óbitos confirmados oficialmente e que poderia, numa outra realidade, ser exemplo para o mundo, uma vez que experiência comprovada nas áreas de vacinação em larga escala tem de sobra.


A frase que foi pronunciada

“Dou-lhe minha palavra: sempre serei sincero com você. Defenderei a constituição. Defenderei nossa democracia. Defenderei a América.”
Presidente norte-americano Joe Biden


Bem comum
Condomínios começam a registrar os cães residentes na área para manter a segurança do local. Muitas pessoas ainda não compreenderam que, pelo bem comum, é preciso colocar focinheira em cães de médio e grande porte quando forem passear. Fato já previsto pela Lei Distrital nº 2.095/1998.


20 anos
Por falar em condomínio, Privê 1 e Privê 2, na estrada do Paranoá, até hoje não foram legalizados. Por decisão do TRF1, a matrícula do local permanece bloqueada. A demarcação da Terracap gera dúvidas.


Golpe
Sem limites, a maldade humana extrapola. Acreditem que golpistas fazem contato para agendar a vacinação aproveitando para clonar o aplicativo de mensagens. O melhor é definir a senha de segurança. No Blog do Ari Cunha, a campanha do Ministério da Saúde esclarecendo sobre o assunto.


Cuidados
Também sobre golpes, veja uma coletânea deles no Blog do Ari Cunha. São os aplicados nos últimos tempos num documento só.


História de Brasília

No dia 13 de dezembro, publicamos uma nota dizendo que o governador Ney Braga tinha apartamento em Brasília e governava o Paraná. A informação não é procedente, mas não é mentirosa. Houve isto: com a mudança da capital, o então deputado Ney Braga recebeu um apartamento, o de número 505 do Bloco11 da Superquadra 107 (IAPETC).