Falsidades e deepfakes gerados por IA parecem não ter tido efeito sobre os resultados eleitorais no Reino Unido, França e no Parlamento Europeu neste ano, de acordo com uma nova pesquisa.
Desde o início do boom da IA generativa, houve um medo generalizado de que essas ferramentas pudessem aumentar a capacidade de atores mal-intencionados em espalhar conteúdo falso, com potencial para interferir em eleições ou até mesmo influenciar os resultados. Esses temores foram particularmente intensificados neste ano, quando bilhões de pessoas deveriam votar em mais de 70 países.
Esses medos parecem ter sido infundados, diz Sam Stockwell, pesquisador do Instituto Alan Turing que conduziu o estudo. Ele se concentrou em três eleições durante um período de quatro meses, de maio a agosto de 2024, coletando dados de relatórios públicos e artigos de notícias sobre o uso indevido de IA. Stockwell identificou 16 casos de falsidades ou deepfakes gerados por IA que se tornaram virais durante as eleições gerais do Reino Unido e apenas 11 casos combinados nas eleições da UE e da França, nenhum dos quais pareceu influenciar decisivamente os resultados. O conteúdo falso foi criado tanto por atores domésticos quanto por grupos ligados a países hostis, como a Rússia.
Esses achados estão de acordo com os recentes alertas de especialistas de que o foco na interferência eleitoral está nos distraindo de ameaças mais profundas e duradouras à democracia.
O conteúdo gerado por IA parece ter sido ineficaz como ferramenta de desinformação na maioria das eleições europeias até agora neste ano. Segundo Stockwell, isso se deve ao fato de que a maioria das pessoas expostas à desinformação já acreditava na mensagem subjacente (por exemplo, que os níveis de imigração em seus países são muito altos). A análise de Stockwell mostrou que as pessoas que interagiam ativamente com essas mensagens, ao compartilhá-las e amplificá-las, tinham algum tipo de afiliação ou já haviam expressado opiniões que se alinhavam com o conteúdo. Assim, o material era mais propenso a reforçar opiniões pré-existentes do que a influenciar eleitores indecisos.
Táticas de interferência eleitoral já testadas, como inundar seções de comentários com bots e usar influenciadores para espalhar falsidades, permaneceram muito mais eficazes. Atores mal-intencionados usaram principalmente IA generativa para reescrever artigos de notícias com sua própria interpretação ou para criar mais conteúdo online com fins de desinformação.
“A IA não está realmente fornecendo muita vantagem no momento, já que métodos existentes e mais simples de criar informações falsas ou enganosas continuam prevalentes”, diz Felix Simon, pesquisador do Instituto Reuters para Jornalismo, que não esteve envolvido na pesquisa.
No entanto, é difícil tirar conclusões definitivas sobre o impacto da IA nas eleições neste estágio, afirma Samuel Woolley, especialista em desinformação da Universidade de Pittsburgh. Isso se deve, em parte, à falta de dados suficientes.
“Há impactos menos óbvios e menos rastreáveis a longo prazo relacionados ao uso dessas ferramentas, que alteram o engajamento cívico”, acrescenta.
Stockwell concorda: as primeiras evidências dessas eleições sugerem que o conteúdo gerado por IA pode ser mais eficaz para assediar políticos e semear confusão do que para mudar a opinião pública em larga escala.
Políticos no Reino Unido, como o ex-primeiro-ministro Rishi Sunak, foram alvos de deepfakes de IA que, por exemplo, mostravam-nos promovendo golpes ou admitindo corrupção financeira. Candidatas mulheres também foram alvos de conteúdo sexual deepfake não consensual, com o objetivo de difamá-las e intimidá-las.
“Há, claro, o risco de que, a longo prazo, quanto mais os candidatos políticos forem vítimas de assédio online, ameaças de morte, deepfakes pornográficos—isso pode ter um efeito real de desmotivação na disposição deles de, por exemplo, participar de futuras eleições, mas também prejudicar claramente o bem-estar deles”, diz Stockwell.
Talvez mais preocupante, diz Stockwell, sua pesquisa indica que as pessoas estão cada vez mais incapazes de discernir a diferença entre conteúdo autêntico e conteúdo gerado por IA no contexto eleitoral. Os políticos também estão se aproveitando disso. Por exemplo, candidatos políticos nas eleições do Parlamento Europeu na França compartilharam conteúdo gerado por IA que amplificava narrativas anti-imigração, sem revelar que o material havia sido feito com IA.
“Esse engajamento encoberto, combinado com a falta de transparência, representa, na minha opinião, um risco potencialmente maior para a integridade dos processos políticos do que o uso de IA pela população em geral ou pelos chamados ‘atores mal-intencionados’”, diz Simon.
Por:Melissa Heikkilä
Melissa é repórter sênior da MIT Technology Review, cobrindo assuntos ligados à Inteligência Artificial e como ela está mudando nossa sociedade.
—
Melissa Heikkila
