IA favorece a disseminação de informações falsas sobre o Holocausto, alerta Unesco

Estudo da Organização das Nações Unidas para a Educação afirma que a IA generativa pode inventar acontecimentos da Segunda Guerra Mundial que nunca aconteceram.

Modelos de IA generativa, como o ChatGPT, que geram textos, fotos, sons e vídeos com base em buscas de linguagem, podem criar situações que nunca aconteceram, alerta a Unesco.  - (crédito: AFP)

A inteligência artificial generativa (IA) favorece a propagação de informações falsas sobre o Holocausto, o que pode alimentar o antissemitismo e alterar a nossa relação com a verdade histórica, alertou a Unesco nesta terça-feira (18). 

"Se permitirmos que estes fatos terríveis do Holocausto sejam adoçados, distorcidos ou falsificados através do uso irresponsável da IA, corremos o risco de uma rápida propagação do antissemitismo e de um declínio na nossa compreensão das causas e consequências destas atrocidades", afirmou a diretora-geral da Unesco, Audrey Azoulay, em comunicado. 

A Organização das Nações Unidas para a Educação, a Ciência e a Cultura lançou esta publicação em colaboração com o Congresso Judaico Mundial, por ocasião do Dia Internacional de Combate ao Discurso de Ódio.

Modelos de IA generativa, como o ChatGPT, que criam textos, fotos, sons e vídeos com base em buscas de linguagem, podem inventar acontecimentos da Segunda Guerra Mundial que nunca aconteceram, alerta a Unesco. 

Em fevereiro, o aplicativo de inteligência generativa Gemini do Google causou polêmica ao criar imagens de nazistas com pele negra. 

O ChatGPT, que introduziu a IA generativa ao público em geral quando foi lançado pela OpenAI em 2022, inventou o conceito de "Holocausto por afogamento", segundo o qual os nazistas teriam afogado massivamente o povo judeu em lagos e rios durante a Segunda Guerra Mundial. Puras invenções sem fundamento histórico, criticou a Unesco.

A IA favorece o pensamento conspiratório, insiste Karel Fracapane, especialista em educação sobre o Holocausto na Unesco. 

"É um bom exemplo de como a IA, quando aplicada a questões especialmente difíceis e controversas, pode levar a uma forte erosão da cultura democrática", disse à AFP.

As empresas tecnológicas têm que demonstrar "mais rigor, transparência e responsabilidade", acrescentou.

AFP

postado em 18/06/2024 09:58 / atualizado em 18/06/2024 09:58