Desde
deepfakes destinados a influenciar as eleições até os chatbots que
espalham notícias falsas, a desinformação surge como um dos grandes
perigos do uso crescente da inteligência artificial (IA).
O rápido
avanço dessa tecnologia, que foi tema de uma cúpula mundial em Paris,
já alimentou, nos últimos anos, o aumento da desinformação, oferecendo
novas e poderosas ferramentas.
Na
Eslováquia, em 2023, uma gravação causou grande alvoroço: ouvia-se o
líder de um partido pró-europeu admitir que as eleições legislativas
seriam manipuladas.
Era um deepfake, um conteúdo manipulado graças à IA que influenciou os eleitores.
Em
todo o planeta, políticos sofrem regularmente esse tipo de
procedimento, que tem grande potencial de viralizar nas redes sociais.
Este
é o caso do ex-presidente dos Estados Unidos, Joe Biden, cuja voz foi
manipulada para aconselhar eleitores a não votar, ou uma suposta imagem
do primeiro-ministro israelense, Benjamin Netanyahu, hospitalizado.
– Deepfakes pornográficos –
Mulheres
políticas nos Estados Unidos, Itália, Reino Unido e Paquistão também
foram vítimas de imagens pornográficas geradas por IA, uma tendência que
causa preocupação entre os pesquisadores.
Esses
deepfakes de conteúdo sexual também costumam atacar celebridades, como a
cantora americana Taylor Swift. Todas as mulheres podem ser agredidas,
alerta o American Sunlight Project, um grupo de pesquisa sobre
desinformação.
A IA também é usada para grandes operações de interferência digital.
As
campanhas pró-russas conhecidas como “doppelgänger” ou “matriochka” são
alguns dos exemplos mais destacados: seus autores utilizaram amplamente
perfis fraudulentos, ou seja, bots (abreviação de “robôs”), para
publicar conteúdos gerados por IA, com o objetivo de minar o apoio do
Ocidente à Ucrânia.
“O que é novo é a escala e a facilidade com
que uma pessoa com poucos recursos financeiros e tempo pode espalhar
conteúdos falsos que, por outro lado, parecem cada vez mais confiáveis e
são cada vez mais difíceis de detectar”, detalha Chine Labbé,
editora-chefe da organização Newsguard, que analisa a confiabilidade dos
sites e conteúdos online.
A IA constitui um “apoio sem
precedentes para a criação e gestão de contas falsas nas plataformas
online”, tudo “em grande escala”, destaca também o Viginum, a
organização francesa de combate às interferências digitais estrangeiras,
em um relatório publicado por ocasião da cúpula realizada em Paris.
– “Contaminação da internet” –
Nenhum
campo escapa dos conteúdos falsos, como, por exemplo, videoclipes
musicais fraudulentos, assim como falsas fotos de eventos históricos
criadas em poucos cliques.
No Facebook, multiplicam-se imagens apelativas geradas por IA para obter recursos ou engajamento.
O
objetivo não é necessariamente espalhar informações falsas, mas captar a
atenção com fins comerciais ou até mesmo preparar fraudes.
No
final de dezembro, enquanto a história de um homem que ateou fogo em uma
mulher no metrô de Nova York dominava as manchetes nos Estados Unidos,
uma suposta foto da vítima viralizou.
A imagem havia sido gerada por IA e o drama foi instrumentalizado para direcionar os usuários a sites de criptomoedas.
“Além
do risco de desinformação, existe o risco da contaminação da internet:
nunca se sabe se estamos diante de um conteúdo que foi verificado,
editado por um ser humano, ou se foi gerado por uma IA sem que ninguém
se preocupe com sua veracidade”, alerta Chine Labbé.
Cada evento
noticioso provoca um fluxo de imagens criadas online, como os grandes
incêndios em Los Angeles no início de 2025, durante os quais fotos
falsas do letreiro de Hollywood em chamas ou uma estátua do Oscar entre
as cinzas deram a volta ao mundo.
Os chatbots da moda, como o
americano ChatGPT, também podem contribuir para espalhar notícias
falsas, aponta Labbé: “Eles têm a tendência de citar primeiro fontes
geradas por IA, o que cria um ciclo vicioso”.
A chegada do chinês
DeepSeek, que reflete as posições oficiais chinesas em parte de suas
respostas, apenas reforça a necessidade de estabelecer marcos para essas
ferramentas, argumenta a especialista.
É necessário “ensinar a distinguir fontes confiáveis das de propaganda”, acrescenta.
