Este artigo foi originalmente publicado no The Algorithm, nossa newsletter semanal sobre IA. Para receber matérias como essa diretamente no seu e-mail, inscreva-se aqui.
Se não está quebrado, não conserte. Essa parece ser a abordagem adotada por atores estatais mal-intencionados quando se trata de interferir em eleições ao redor do mundo.
Quando o boom da IA generativa começou, uma das maiores preocupações entre especialistas e analistas era que deepfakes hiper-realistas pudessem ser usados para influenciar eleições.
Mas uma nova pesquisa do Instituto Alan Turing, no Reino Unido, mostra que esses medos podem ter sido exagerados. Falsidades geradas por IA e deepfakes parecem não ter tido nenhum efeito nos resultados eleitorais no Reino Unido, França, Parlamento Europeu e em outras eleições ao redor do mundo até agora este ano.
Em vez de usar IA generativa para interferir em eleições, atores estatais como a Rússia estão recorrendo a técnicas bem estabelecidas, como o uso de bots sociais para inundar seções de comentários, a fim de semear divisão e confusão, afirma Sam Stockwell, o pesquisador responsável pelo estudo.
No entanto, uma das eleições mais importantes do ano ainda está por vir. Dentro de pouco mais de um mês, os americanos irão às urnas para escolher entre Donald Trump e Kamala Harris como seu próximo presidente. Será que os russos estão guardando seus GPUs para as eleições dos EUA?
Até agora, isso não parece ser o caso, afirma Stockwell, que também tem monitorado a desinformação viral envolvendo as eleições nos EUA. Os agentes mal-intencionados “ainda estão confiando nesses métodos bem estabelecidos, que vêm sendo usados há anos, se não décadas, como contas de bots sociais que tentam criar a impressão de que políticas pró-Rússia estão ganhando força entre o público americano”, diz ele.
E quando eles tentam usar ferramentas de IA generativa, os resultados não parecem compensar, acrescenta. Por exemplo, uma campanha de desinformação com fortes ligações à Rússia, chamada Copy Cop, tentou usar chatbots para reescrever notícias genuínas sobre a guerra da Rússia na Ucrânia, refletindo narrativas pró-Rússia.
O problema? Eles estão esquecendo de remover os prompts dos artigos que publicam.
A curto prazo, há algumas coisas que os EUA podem fazer para combater danos mais imediatos, diz Stockwell. Por exemplo, alguns estados, como Arizona e Colorado, já estão realizando workshops de simulação de cenários críticos com oficiais eleitorais e autoridades para simular os piores cenários envolvendo ameaças de IA no Dia da Eleição. Também é necessária uma maior colaboração entre plataformas de mídia social, suas equipes de segurança online, organizações de checagem de fatos, pesquisadores de desinformação e as autoridades policiais para garantir que esforços de influência viral sejam expostos, desmentidos e removidos, afirma Stockwell.
Mas, enquanto atores estatais não estão usando deepfakes, isso não impediu que os próprios candidatos o façam. Recentemente, Donald Trump usou imagens geradas por IA insinuando que Taylor Swift o havia apoiado. (Logo depois, a popstar declarou seu apoio a Harris.)
No início deste ano, escrevi um artigo explorando o novo e ousado mundo dos deepfakes hiper-realistas e o que a tecnologia está fazendo com o nosso cenário informativo. Como mencionei então, existe um risco real de criar tanto ceticismo e desconfiança em nosso panorama informativo que atores mal-intencionados ou políticos oportunistas possam se aproveitar desse vácuo de confiança e mentir sobre a autenticidade de conteúdos reais. Isso é chamado de “dividendo do mentiroso”.
Há uma necessidade urgente de diretrizes sobre como os políticos podem usar IA. Atualmente, falta-nos responsabilidade ou limites claros sobre como os candidatos políticos podem utilizar a IA de maneira ética no contexto eleitoral, diz Stockwell. Quanto mais vemos candidatos políticos realizarem práticas como compartilhar anúncios gerados por IA sem rótulos ou acusar as atividades de outros candidatos de serem geradas por IA, mais isso se torna normalizado, acrescenta. E tudo o que vimos até agora sugere que essas eleições são apenas o começo.
—
Por:Melissa Heikkilä
Melissa é repórter sênior da MIT Technology Review, cobrindo assuntos ligados à Inteligência Artificial e como ela está mudando nossa sociedade.
Melissa Heikkila
