The Japan Times - IA, uma nova frente contra a desinformação

O rápido avanço dessa tecnologia, que foi tema de uma cúpula mundial em Paris, já alimentou, nos últimos anos, o aumento da desinformação, oferecendo novas e poderosas ferramentas.

Na Eslováquia, em 2023, uma gravação causou grande alvoroço: ouvia-se o líder de um partido pró-europeu admitir que as eleições legislativas seriam manipuladas.

Era um deepfake, um conteúdo manipulado graças à IA que influenciou os eleitores.

Em todo o planeta, políticos sofrem regularmente esse tipo de procedimento, que tem grande potencial de viralizar nas redes sociais.

Este é o caso do ex-presidente dos Estados Unidos, Joe Biden, cuja voz foi manipulada para aconselhar eleitores a não votar, ou uma suposta imagem do primeiro-ministro israelense, Benjamin Netanyahu, hospitalizado.

- Deepfakes pornográficos -

Mulheres políticas nos Estados Unidos, Itália, Reino Unido e Paquistão também foram vítimas de imagens pornográficas geradas por IA, uma tendência que causa preocupação entre os pesquisadores.

Esses deepfakes de conteúdo sexual também costumam atacar celebridades, como a cantora americana Taylor Swift. Todas as mulheres podem ser agredidas, alerta o American Sunlight Project, um grupo de pesquisa sobre desinformação.

A IA também é usada para grandes operações de interferência digital.

As campanhas pró-russas conhecidas como "doppelgänger" ou "matriochka" são alguns dos exemplos mais destacados: seus autores utilizaram amplamente perfis fraudulentos, ou seja, bots (abreviação de "robôs"), para publicar conteúdos gerados por IA, com o objetivo de minar o apoio do Ocidente à Ucrânia.

"O que é novo é a escala e a facilidade com que uma pessoa com poucos recursos financeiros e tempo pode espalhar conteúdos falsos que, por outro lado, parecem cada vez mais confiáveis e são cada vez mais difíceis de detectar", detalha Chine Labbé, editora-chefe da organização Newsguard, que analisa a confiabilidade dos sites e conteúdos online.

A IA constitui um "apoio sem precedentes para a criação e gestão de contas falsas nas plataformas online", tudo "em grande escala", destaca também o Viginum, a organização francesa de combate às interferências digitais estrangeiras, em um relatório publicado por ocasião da cúpula realizada em Paris.

- "Contaminação da internet" -

Nenhum campo escapa dos conteúdos falsos, como, por exemplo, videoclipes musicais fraudulentos, assim como falsas fotos de eventos históricos criadas em poucos cliques.

No Facebook, multiplicam-se imagens apelativas geradas por IA para obter recursos ou engajamento.

O objetivo não é necessariamente espalhar informações falsas, mas captar a atenção com fins comerciais ou até mesmo preparar fraudes.

No final de dezembro, enquanto a história de um homem que ateou fogo em uma mulher no metrô de Nova York dominava as manchetes nos Estados Unidos, uma suposta foto da vítima viralizou.

A imagem havia sido gerada por IA e o drama foi instrumentalizado para direcionar os usuários a sites de criptomoedas.

"Além do risco de desinformação, existe o risco da contaminação da internet: nunca se sabe se estamos diante de um conteúdo que foi verificado, editado por um ser humano, ou se foi gerado por uma IA sem que ninguém se preocupe com sua veracidade", alerta Chine Labbé.

Cada evento noticioso provoca um fluxo de imagens criadas online, como os grandes incêndios em Los Angeles no início de 2025, durante os quais fotos falsas do letreiro de Hollywood em chamas ou uma estátua do Oscar entre as cinzas deram a volta ao mundo.

Os chatbots da moda, como o americano ChatGPT, também podem contribuir para espalhar notícias falsas, aponta Labbé: "Eles têm a tendência de citar primeiro fontes geradas por IA, o que cria um ciclo vicioso".

A chegada do chinês DeepSeek, que reflete as posições oficiais chinesas em parte de suas respostas, apenas reforça a necessidade de estabelecer marcos para essas ferramentas, argumenta a especialista.

É necessário "ensinar a distinguir fontes confiáveis das de propaganda", acrescenta.

H.Takahashi--JT