Algoritmo do Instagram permitia "busca" por pornografia infantil

Levantamento do Wall Street Journal em parceria com a Universidade de Stanford e da Universidade de Massachusetts Amherst indicou que a plataforma também promovia esse tipo de conteúdo

Camilla Germano

postado em 09/06/2023 18:37 / atualizado em 09/06/2023 18:37

(crédito: Claudio Schwarz/Unsplash)

O algoritmo do Instagram, que recomenda conteúdos aos usuários baseado no consumo, permitia que uma "rede" de pedófilos conseguissem buscar conteúdos de pornografia infantil, segundo um levantamento do jornal americano The Wall Street Journal. A empresa se manifestou sobre o tema e, além de pontuar as ações de combate contra a veiculação desses conteúdos na plataforma, informou que em janeiro de 2023 desativou mais de 490.000 contas que violavam as políticas de segurança infantil.

A investigação, realizada pelo jornal em colaboração com pesquisadores de Stanford e da Universidade de Massachusetts Amherst, revelou ainda que os conteúdos não eram só hospedados na plataforma e, sim, que o algoritmo os promovia.

• Saiba como ativar a função do Google Tradutor no Instagram
  
• Após Twitter, Meta lança assinatura paga para verificação no Facebook e Instagram
  
• Facebook removerá conteúdos de apoio aos atos terroristas em Brasília
  

O relatório do Observatório de Internet de Starford revela que o Instagram era a mais importante plataforma para essa área uma vez que o algoritmo usado e a ferramenta de mensagens diretas facilitavam o contato entre compradores e vendedores desse tipo de produto ilegal.

Além disso, a investigação identificou que os criminosos, suspostamente operadas por menores de idade, anunciavam a venda desses conteúdos abertamente nas rede sociais.

"O Instagram conecta pedófilos e os orienta a vendedores de conteúdo por meio de sistemas de recomendação que se destacam em vincular aqueles que compartilham interesses de nicho", afirma um dos trechos da reportagem.

Além disso, a investigação identificou que os criminosos, suspostamente operadas por menores de idade, anunciavam a venda desses conteúdos abertamente nas rede sociais.

É importante ressaltar que práticas envolvendo atividades sexuais de menores de idade são proibidas pela legislação brasileira e pela americana, além de quebrar as regras de conduta do Instagram.

O que diz a Meta e o Instagram

Em nota encaminhada ao Correio, um porta-voz da Meta, empresa dona do Instagram, ressaltou que eles vem trabalhando rigidamente para combater práticas de exploração infantil dentro e fora das plataformas e para apoiar os responsáveis pela aplicação da lei nos esforços para prender e processar os criminosos por trás disso. 

"Predadores costumam mudar suas táticas para fazer mal às crianças o tempo todo e, por isso, temos políticas e tecnologias severas para evitar que eles encontrem ou interajam com adolescentes em nossos aplicativos. Além disso, contratamos equipes especializadas focadas em entender a transformação desses comportamentos para, assim, eliminar interações abusivas", afirmou o porta-voz.

Contudo, destacaram que entre 2020 e 2022, essas equipes desmantelaram 27 redes abusivas e, em janeiro de 2023, conseguiram desativar mais de 490.000 contas que violavam as políticas de segurança infantil da empresa.

"Estamos continuamente explorando maneiras de nos defender ativamente contra este tipo de comportamento e criamos uma força-tarefa interna para investigar essas situações e solucioná-las imediatamente", afirma também também a nota. 

O texto exemplifica ainda que a empresa já corrigiu um erro técnico que impedia, de maneira inesperada, que denúncias de usuários chegassem a revisores de conteúdo, fornecendo orientações atualizadas para que eles identifiquem e removam contas com mais facilidade, além de restringirem também milhares de termos de pesquisa e hashtags no Instagram

"Estamos comprometidos em continuar o nosso trabalho para proteger os adolescentes e as crianças, barrar criminosos e apoiar as autoridades para levá-los à Justiça", conclui a nota.