Durante muito tempo, ver era acreditar. Uma fotografia servia como prova. Um vídeo registrava um acontecimento. Uma gravação de voz bastava para confirmar a identidade de alguém. Embora imagens sempre pudessem ser manipuladas, havia um pressuposto de que a evidência visual carregava um peso na construção da verdade.
Hoje, vídeos, fotografias e áudios podem ser produzidos ou alterados em poucos minutos, sem que o acontecimento registrado tenha existido. O problema não está apenas na facilidade de fabricar conteúdos falsos. Está no fato de que a dúvida passa a acompanhar também aquilo que pode ser verdadeiro.
Essa mudança ganha uma dimensão particular durante as eleições. O voto é construído a partir de discursos, entrevistas, debates, propagandas e acontecimentos registrados em imagens e vídeos. Quando a autenticidade dos registros passa a ser questionada, a tecnologia interfere diretamente no processo democrático.
Quando a evidência não basta
No estudo publicado pela Nature Communications, em 2024, pesquisadores do MIT e da Northwestern University conduziram cinco experimentos com 2.215 participantes para avaliar como as pessoas identificavam discursos políticos reais e falsos. O trabalho mostrou que os participantes se saíram bem melhores do que o acaso nessa tarefa, mas estavam longe de serem infalíveis. A avaliação também dependia fortemente de pistas audiovisuais, justamente aquelas que as inteligências artificiais conseguem reproduzir.
Em uma eleição, um conteúdo não precisa convencer todo mundo para produzir algum efeito. Basta reforçar uma percepção, introduzir uma dúvida ou alimentar uma narrativa antes que seja verificado.
E existe um efeito ainda mais difícil de combater. A própria existência das deepfakes pode ser usada para desacreditar registros verdadeiros. Um vídeo autêntico pode ser chamado de falso. Uma gravação legítima pode ser atribuída a uma clonagem de voz.
A questão deixa de ser apenas como impedir que uma mentira pareça verdadeira. Passa a ser como preservar a capacidade de reconhecer a verdade.
O Brasil diante do problema
Nas eleições municipais de 2024, o Tribunal Superior Eleitoral proibiu o uso de deepfakes para favorecer ou prejudicar candidaturas e estabeleceu regras para a identificação de conteúdos produzidos ou alterados por Inteligência Artificial.
Mas a experiência mostrou que regulamentar é apenas parte do problema. O NetLab, da Universidade Federal do Rio de Janeiro, identificou desafios para monitorar conteúdos sintéticos durante a pré-campanha de 2024, especialmente diante da velocidade de circulação e das limitações para acompanhar ambientes fechados.
Para Marie Santini, fundadora e diretora do Netlab UFRJ, produção de falsificações e dificuldade de comprovar conteúdos verdadeiros são problemas inseparáveis.
“Esses dois riscos estão profundamente relacionados e são potencializados pela rápida popularização das ferramentas de IA generativa, que se tornaram cada vez mais acessíveis, baratas e simples de usar.”, afirma.
Segundo Santini, esse cenário produz uma “inversão do ônus da prova”. Diante da suspeita de manipulação, quem produz um conteúdo autêntico passa a ter a obrigação de demonstrar que ele é verdadeiro.
A presença desses conteúdos já faz parte do cotidiano dos brasileiros. Segundo o Painel TIC Integridade da Informação, do Cetic.br, 41% dos usuários de Internet com 16 anos ou mais relatam contato diário com deepfakes. Entre jovens de 16 a 24 anos, o percentual chega a 44%.
Para Santini, o risco eleitoral não termina na manipulação da percepção sobre candidatos.
“Esses conteúdos também podem manipular o debate sobre o próprio sistema eleitoral, alimentar discursos de que dados públicos não são confiáveis, de que as instituições mentem ou, em última instância, de que o próprio processo eleitoral é fraudulento.”, alerta a pesquisadora.
Quem verifica a realidade?
No estudo publicado na Proceedings of the National Academy of Sciences (PNAS), pesquisadores avaliaram a capacidade de pessoas e sistemas de Inteligência Artificial de identificar deepfakes. A combinação entre julgamento humano e ferramentas automatizadas melhorou a precisão, mas os erros das máquinas também podiam influenciar as decisões humanas.
Para Santini, a responsabilidade não pode ser transferida para o usuário.
“Acredito que o primeiro ponto é reconhecer que as limitações na identificação e na verificação desses conteúdos não são apenas um problema técnico. Elas estão relacionadas à forma como as próprias plataformas funcionam e ao modelo de negócios dessas empresas, que prioriza engajamento, circulação de conteúdo e publicidade, muitas vezes em detrimento da integridade da informação e da segurança dos usuários.”, aponta Santini.
A pergunta, portanto, deixa de ser apenas “isso é falso?”. É também “de onde veio?”, “quem colocou isso em circulação?” e “por que isso chegou até mim?”.
Antes da urna
Durante décadas, a discussão sobre integridade eleitoral concentrou-se na segurança da urna, na apuração e na garantia de que cada voto fosse registrado corretamente.
A Inteligência Artificial desloca parte desse debate para um momento anterior.Antes de votar, o eleitor precisa construir uma percepção sobre a realidade. E essa percepção depende da confiança nas evidências que chegam até ele.
Se qualquer imagem pode ser fabricada e qualquer registro verdadeiro pode ser chamado de falso, a disputa não acontece apenas em torno daquilo que as pessoas acreditam. Acontece também em torno daquilo que elas ainda consideram possível verificar.
As próximas eleições terão de lidar com esse ambiente.
A integridade do voto continuará dependendo da segurança que envolve todo o processo eleitoral. Mas a integridade da decisão que leva até ela dependerá cada vez mais da capacidade de preservar a confiança nas evidências que formam a opinião pública.
Rafaela Guimarães
