A filha de Christine, moradora do Rio de Janeiro, tinha 10 anos quando subiu no YouTube um vídeo no qual brincava na piscina de casa com as amigas. O canal gerenciado pela mãe costumava ter uma média de dezenas de curtidas, geralmente vindas de coleguinhas da escola. Nesse dia, o vídeo da piscina teve milhares de visualizações. Christine ficou preocupada e, em pouco tempo, descobriu que o algoritmo do YouTube havia selecionado o material para ser oferecido como conteúdo de crianças seminuas. Apesar das diretrizes do site relacionadas ao consumo de pornografia infantil e apesar de o vídeo ter sido retirado do canal, ele continuou circulando após dezenas de compartilhamentos em consequência da seleção do algoritmo. Em Mianmar, uma ditadura acabava de ser substituída por um regime democrático quando o Facebook desembarcou no país com um presente para uma população pobre e oprimida: um acordo com uma operadora de telefonia oferecia pacote gratuito de dados, o que permitia acesso ilimitado à rede. Com a população inteiramente conectada, a incitação de ódio de um monge no Facebook contra a minoria muçulmana do país tomou proporções catastróficas e dimensão de genocídio. No Sri Lanka, um boato no Facebook de que turistas estariam sequestrando crianças para tráfico de órgãos levou a assassinatos violentos e, no Brasil e nos Estados Unidos, presidentes se elegeram com discursos de ódio que pregavam a eliminação dos adversários.
Histórias como essas são pontos de partida para o jornalista americano Max Fisher, repórter do New York Times e finalista do prêmio Pulitzer, fisgar o leitor no livro A máquina do caos — Como as redes sociais reprogramaram nossa mente e nosso mundo, recém-lançado pela Todavia. O livro é fruto de uma pesquisa que envolve entrevistas com centenas de estudiosos, executivos do Vale do Silício, engenheiros, psicólogos, sociólogos e vítimas de algoritmos.
Fisher mergulha com propriedade no universo das big techs com o objetivo de mostrar como a combinação entre o lucro a qualquer custo e algoritmos autônomos proporcionam um terreno perigoso para o desenvolvimento do discurso de ódio e do extremismo. "Sucessivos estudos mostraram que os algoritmos, na maior parte das redes sociais, consistentemente promovem ideias e teorias da conspiração que se alinham com a extrema direita", diz Fisher, em entrevista ao Correio. "Mas isso não é porque as pessoas que estão nas redes querem esse tipo de conteúdo deliberadamente."
Segundo o autor, a maior parte das pessoas que estão nas redes são moderadas na maneira como veem o mundo e têm tendência em encarar as redes como um instrumento de progresso. No entanto, devido à natureza humana, sentimentos de medo, ódio e indignação geram mais engajamento, o que alimenta o algoritmo e o leva a oferecer esse tipo de conteúdo. O caminho, segundo o pesquisador, acaba levando a uma toca de coelho: quanto mais conteúdo violento, extremista e que propague o ódio o usuário assiste, mais as redes oferecem. "O resultado é que o algoritmo da rede social aprendeu a potencializar esses sentimentos para nos tornar o mais ativo possível on-line, o que gradualmente leva as pessoas para ideias de extrema direita", lamenta Fisher.
Uma das soluções apontadas pelo autor seria a regulação das redes, tema que tem pautado discussões no mundo inteiro, inclusive no Brasil. Ataques a escolas orquestrados e estimulados nas redes sociais, o julgamento no STF sobre a responsabilização de big techs pelos conteúdos postados pelos usuários e a extensão do Marco Civil da Internet, segundo o qual as plataformas não podem decidir sobre o conteúdo publicado pelos internautas são questões com impactos diretos na sociedade brasileira contemporânea. "As redes sociais só podem se tornar um lugar mais saudável se as próprias plataformas forem forçadas a mudar seus sistemas subjacentes", conclui Fisher.
A máquina do caos — Como as redes sociais reprogramaram nossa mente e nosso mundo
De Max Fisher. Tradução: Érico Assis. Todavia, 510 páginas. R$ 99,90
No coração do furacão
O discurso de ódio nas redes sociais, a geração de fake news e como essa combinação é operada para destruir democracias é o tema de Como enfrentar um ditador — A luta pelo nosso futuro, da filipina Maria Ressa, vencedora do Prêmio Nobel da Paz em 2021. Fundadora do Rappler, um site independente de notícias cuja luta contra fake news e por um jornalismo ético desestabilizou a ditadura de Rodrigo Duterte no país, a jornalista é um dos maiores nomes do jornalismo contemporâneo e da defesa da democracia.
No livro, Ressa conta como a filha de imigrantes que chegou a começar estudos de direito e medicina em universidades americanas da Ivy League decidiu retornar ao país de origem para ajudar a construir uma imprensa que contribuísse com a retomada do regime democrático. Ataques virtuais e pessoais a dezenas de processos abertos em um sistema judiciário corrompido e dominado pelo poder executivo tentaram calar a Nobel sem sucesso.
Como enfrentar um ditador — A luta pelo nosso futuro
De Maria Ressa. Tradução: Débora Landsberg, Denise Bottmann e Isa Mara Lando. Companhia das Letras, 367 páginas. R$ 74,90
ENTREVISTA / Max Fisher
As transformações que ocorreram com as redes sociais levaram a uma sociedade mais ultraconservadora, fanática e negacionista da ciência. O algoritmo é de extrema direita?
Os algoritmos das redes sociais, que operam em parte de maneira autônoma, aprendem por eles mesmos a promover qualquer conteúdo que maximize o engajamento do usuário a longo prazo. E isso faz com que, sucessivamente, o algoritmo vá em busca de teorias da conspiração em geral, do extremismo e, em última análise, a formas dos dois que tendem a se alinhar com a extrema direita. A razão para isso tem a ver principalmente com a natureza inata do ser humano. Sentimentos de nós contra eles, tribalismo, medo, ódio e especialmente indignação são extremamente estimulantes. Esses sentimentos são desagradáveis, mas eles nos tornam socialmente extremamente ativos, especialmente quando buscamos nos integrar no nosso próprio grupo e contra aqueles percebidos como ameaça. Essa tendência tem raízes profundas na evolução humana.
Espalhar o ódio ou o nazismo é um direito de expressão, uma fundação da democracia? As redes sociais se tornaram um lugar onde o crime de ódio é, de fato, valorizado?
Eu não acho que estou qualificado para dizer quais tipos de ideias estão ou não incluídas no direito de livre expressão. Cada sociedade tem que decidir isso por si mesma. Mas eu acho que as sociedades democráticas em todo lugar estão reconsiderando esta questão à medida que o ódio e o extremismo estão aumentando.
O que tem impedido a regulamentação das redes sociais? O que precisa ser feito para transformá-las em espaços civilizados onde todos possam ser responsabilizados pelas mensagens que transmitem?
Regular as redes sociais é muito difícil porque os governos ainda estão decidindo exatamente o que querem regular. Em um ambiente onde os algoritmos das plataformas incentivam bilhões de usuários a se comportar de maneiras incrementalmente mais prejudiciais, punir usuários individuais por suas postagens não mudará nada. As redes sociais só podem se tornar um lugar mais saudável se as próprias plataformas forem forçadas a mudar seus sistemas subjacentes. Mas isso é difícil porque requer escrever regras extremamente técnicas em relação a algoritmos complexos que são muito difíceis de serem compreendidos até pelos engenheiros mais inteligentes do mundo, e porque exigirá impor regras que prejudicarão os interesses financeiros dessas empresas.
Qual é a sua opinião quando os gestores de rede dizem que os usuários são responsáveis pelo conteúdo odioso e não a plataforma?
As empresas de mídia social sabem, há vários anos, que são seus próprios sistemas que impulsionam o ódio nas mídias sociais. Sabemos que eles têm consciência disso porque seus próprios relatórios de pesquisa interna provaram isso. Em 2021, a ex-pesquisadora do Facebook Frances Haugen divulgou dezenas de documentos internos do Facebook que mostraram os próprios pesquisadores do Facebook concluindo que a plataforma estava levando um grande número de usuários a abraçar teorias de conspiração perigosas sobre saúde, eleições e grupos extremistas violentos.
O que você acha das ferramentas de IA generativa, como o ChatGPT, o Midjourney e o Dall-E? Que danos eles podem causar? Eles são a nova era do mesmo tipo de caos causado pelas redes sociais?
Ainda não sabemos quão poderosas essas ferramentas serão de fato e se elas realmente terão um impacto em nosso mundo. Quando as pessoas dizem que essas ferramentas trarão mudanças drásticas, estão apenas especulando. Quinze anos atrás, o Vale do Silício desenvolveu uma geração anterior de ferramentas de IA chamadas de "deep learning". Na época, assim como agora, previam que essas ferramentas transformariam o mundo. Embora tenham tido um efeito, trazendo desenvolvimentos como o Google Translate e o algoritmo de vídeo do YouTube, seu impacto foi muito menor do que o previsto.
Oliviero Toscani disse que era necessário realizar um tribunal de Nuremberg sobre a publicidade. Você acha que chegará o dia em que precisaremos realizar um tribunal de Nuremberg das redes sociais?
Acredito que é importante desenvolver mecanismos de responsabilização legal para as redes sociais, de forma que leve em conta seu papel na promoção do ódio e da violência que já ajudou a reivindicar um grande número de vidas, como ocorreu em Mianmar. No entanto, acho que a comparação com os tribunais de guerra de Nuremberg é inflamatória e não ajuda em nada. As empresas de mídia social se assemelham mais a empresas de petróleo ou de tabaco. Elas não são nazistas.
Você acompanhou os tumultos de 8 de janeiro no Brasil? O que você pensa sobre isso?
Assim como a insurreição de 6 de janeiro de 2021 nos Estados Unidos, a violência de 8 de janeiro no Brasil foi uma demonstração do poder das redes sociais de exacerbar — embora não de criar explicitamente — o extremismo em massa e as conspirações até o ponto da violência. O papel das redes sociais nesse evento é complexo, e é claro que muitos outros fatores também desempenharam um papel, mas é inegável.
Saiba Mais
Diversão e Arte
Diversão e Arte
Diversão e Arte
Notícias pelo celular
Receba direto no celular as notícias mais recentes publicadas pelo Correio Braziliense. É de graça. Clique aqui e participe da comunidade do Correio, uma das inovações lançadas pelo WhatsApp.
Dê a sua opinião
O Correio tem um espaço na edição impressa para publicar a opinião dos leitores. As mensagens devem ter, no máximo, 10 linhas e incluir nome, endereço e telefone para o e-mail sredat.df@dabr.com.br.
-
A máquina do caos, de Max Fisher Foto: Todavia -
Como enfrentar um ditador - A luta pelo nosso futuro De Maria Ressa. Companhia das Letras, 368 páginas. R$ 74,90 Foto: Companhia das Letras
-
Jornalista filipina Maria Ressa, ganhadora do Prêmio Nobel: como enfrentar um ditador Foto: Maria Tan / AFP
