Deepfakes com pedidos de voto e
pesquisas eleitorais falsas já circulavam no primeiro semestre do ano;
submetidas a teste, ferramentas gratuitas de detecção de conteúdo sintético
apresentaram resultados contraditórios ou foram incapazes de detectar
manipulações óbvias
O uso da inteligência artificial para criação de
conteúdos relacionados à eleição de outubro começou bem antes da campanha em
si. É o que revela o relatório inédito “A IA do
Nosso Feed”, produzido pelo Observatório Lupa, núcleo de
pesquisa da Agência Lupa, em parceria com estudantes da Fundação Armando Alvares
Penteado (FAAP). Entre fevereiro e junho, o estudo encontrou pelo menos 40
casos (mais de dois por semana) de
conteúdos sintéticos que viralizaram nas redes sociais do Brasil tratando sobre
política, inclusive da disputa eleitoral brasileira que, legalmente, só inicia
no próximo domingo (16) – com regras claras para
o uso de IA. Nesse universo, havia deepfakes com pedidos de voto, políticos
retratados de forma sarcástica e avatares divulgando pesquisas eleitorais
falsas.
O mesmo trabalho, que traça de maneira única o perfil de centenas
de conteúdos sintéticos que viralizaram no primeiro semestre de 2026, ainda
traz outro alerta relevante: as ferramentas gratuitas para detecção de deepfakes
mais utilizadas no país ainda não estão afinadas o suficiente
para a campanha deste ano. Em dezenas de testes, performaram mal e não parecem
adequadas para ajudar o eleitor a separar manipulações sintéticas de conteúdos
reais.
Durante os quatro meses da pesquisa, especialistas da Lupa
junto com 13 estudantes da FAAP monitoraram os próprios feeds no Instagram,
Facebook, X, TikTok e WhatsApp e armazenaram conteúdos que despertavam suspeita
de terem sido criados ou manipulados por IA. A coleta foi espontânea, sem
direcionamento para temas ou perfis. Nas quase 18 semanas de trabalho, foram
capturadas 226 incidências suspeitas. Delas 101 eram realmente IA e 40% destas
versavam sobre política. Vídeo foi o formato mais popular, com 91% dos conteúdos
comprovadamente sintéticos. Apenas nove eram imagens estáticas.
Entre os conteúdos com uso de IA confirmado, 40 tratavam de
política (nacional ou internacional). Nesse grupo, apareceram deepfakes de
figuras públicas declarando apoio ou pedindo votos para candidatos, humor com
sarcasmo e pesquisas eleitorais falsas apresentadas por avatares gerados por
IA.
“Ainda estávamos no primeiro semestre deste ano eleitoral e já
havia muita IA sendo usada para produzir conteúdo político e eleitoral. Isso
mostra que a disputa informacional de 2026, com uso de materiais sintéticos,
começou muito antes das urnas. E, à medida que a eleição se aproxima, cresce a
preocupação não só com o volume desses conteúdos, mas também com a capacidade
do eleitor de distinguir o que é autêntico do que é artificial”, destaca
Beatriz Farrugia, analista de pesquisa da Lupa e responsável pela pesquisa.
“Testamos diversas ferramentas de detecção e nos surpreendemos com a pobreza e
a falta de precisão dos resultados delas”.
Com esta pesquisa, Lupa e FAAP não pretendiam dimensionar toda a
circulação de conteúdos sintéticos nas redes sociais brasileiras. Mas os
resultados do estudo oferecem um retrato consistente do ambiente informacional
comum e cotidiano ao qual milhares de pessoas estão expostas diariamente: um
espaço já repleto de IA e com poucas ferramentas confiáveis de detecção.
Lula lidera entre figuras retratadas com IA
Um mergulho no uso da IA na política brasileira mostra que o
presidente Luiz Inácio Lula da Silva foi a figura pública que mais apareceu nos
conteúdos sintéticos coletados, com 17 ocorrências. Ele é seguido pelo
presidente dos Estados Unidos, Donald Trump, com 16, e pelo ex-presidente Jair
Bolsonaro, com oito. Lula foi alvo de peças políticas e humorísticas, incluindo
vídeos falsos nos quais supostamente prometia cortar aposentadorias ou prender
críticos. Bolsonaro, por sua vez, apareceu em conteúdos que promoviam a
candidatura do senador Flávio Bolsonaro à Presidência.
Flávio apareceu em quatro conteúdos sintéticos comprovados, e
todos tinham caráter eleitoral. Entre eles, havia um deepfake do deputado
federal Nikolas Ferreira (PL-MG) divulgando uma pesquisa falsa que colocava o
senador à frente de Lula no primeiro turno.
Detectar
a IA ainda é um desafio
O experimento de Lupa e FAAP revelou limitações importantes nas
ferramentas disponíveis para identificar conteúdos sintéticos. Em 20 casos
testados, uma mesma imagem ou vídeo recebeu diagnósticos diferentes, com uma
ferramenta apontando indícios de IA enquanto outra considerava o material
autêntico. Dos 226 conteúdos inicialmente suspeitos, 125 permaneceram
inconclusivos porque não foi possível confirmar nem descartar o uso da
tecnologia.
Em um dos exemplos, um vídeo produzido por IA mostrava Lula e Jair
Bolsonaro dançando juntos vestidos como líderes de torcida. Apesar dos sinais
evidentes de manipulação, algumas das ferramentas testadas indicaram que o
conteúdo provavelmente seria autêntico. Diante dessas divergências, os 20 casos
foram encaminhados ao laboratório Recod.ai, da Unicamp, que realizou análises
com tecnologia própria de detecção de conteúdo sintético.
“Hoje existe um descompasso entre a velocidade com que as
ferramentas de geração de IA avançam e a capacidade de detectar aquilo que elas
produzem. Não existe uma solução simples que permita ao cidadão colocar um
vídeo em uma ferramenta e confiar plenamente na resposta. Em uma eleição,
quando um conteúdo falso pode viralizar rapidamente, essa fragilidade é ainda
mais preocupante”, afirma Farrugia.
O resultado reforça uma tendência já observada pelo Observatório
Lupa. No Panorama
da Desinformação, publicado em fevereiro, a
presença de IA entre conteúdos falsos analisados pela Agência Lupa havia
saltado de 4,65% para 25,77% em um ano. Pela primeira vez, conteúdos sintéticos
de desinformação eleitoral superaram aqueles relacionados a golpes e fraudes
financeiras.
Nenhum comentário:
Postar um comentário