Relatório mostra que fazendas de trolls alcançavam 140 milhões de americanos por mês no Facebook antes da eleição de 2020
ComputaçãoSegurança digital por Embratel

Relatório mostra que fazendas de trolls alcançavam 140 milhões de americanos por mês no Facebook antes da eleição de 2020

“Isto não é normal. Isso não é saudável.”

Na corrida para a eleição de 2020, a mais contestada da história dos Estados Unidos, as páginas mais populares do Facebook destinadas a conteúdo cristão e afro-americano eram administradas por fazendas de trolls da Europa Oriental. Essas páginas faziam parte de uma rede maior que atingiu, coletivamente, quase metade de todos os americanos, de acordo com um relatório interno da empresa, e obteve esse resultado não por meio da escolha do usuário, mas sobretudo pelo próprio design da plataforma do Facebook e seu algoritmo orientado por engajamento.

O relatório, escrito em outubro de 2019 e obtido pela MIT Technology Review americana de um ex-funcionário do Facebook não envolvido na pesquisa, concluiu que, após a eleição de 2016, o Facebook falhou em priorizar mudanças fundamentais em como sua plataforma promove e distribui informações. Em vez disso, manteve sua estratégia superficial de monitorar e sufocar a atividade de maus usuários quando eles participavam de discussões políticas na rede social e de adicionar algumas barreiras para prevenir o pior cenário possível.

Mas essa conduta fez pouco para conter o problema subjacente, observou o relatório. As fazendas de trolls, grupos profissionalizados que trabalham de forma coordenada para postar conteúdo provocativo, muitas vezes propaganda, nas redes sociais, ainda construíram um grande público por meio das redes de páginas do Facebook. Seu conteúdo estava alcançando 140 milhões de usuários nos EUA por mês, 75% dos quais nunca haviam seguido nenhuma das páginas em questão. Eles estavam vendo o conteúdo porque o sistema de recomendação do Facebook o havia colocado em seus feeds de notícias.

“Em vez de os usuários escolherem receber conteúdo dessas páginas, é nossa plataforma que está escolhendo dar [a essas fazendas de trolls] um alcance enorme”, escreveu o autor do relatório, Jeff Allen, um ex-cientista de dados sênior do Facebook.

Joe Osborne, um porta-voz do Facebook, disse em um comunicado que a empresa “já vinha investigando esses tópicos” na época do relatório de Allen, acrescentando: “Desde então, formamos equipes, desenvolvemos novas políticas e colaboramos com especialistas para lidar com essas redes. Tomamos medidas agressivas de fiscalização contra esses tipos de grupos degenerados, fossem eles estrangeiros ou nacionais, e compartilhamos os resultados publicamente com uma periodicidade trimestral”.

No processo de verificação dos fatos pouco antes da publicação deste artigo, a MIT Technology Review americana descobriu que cinco das páginas da fazenda trolls mencionadas no relatório permaneceram ativas.

Esta é a maior página de fazenda de trolls voltada para afro-americanos em outubro de 2019. Ela ainda permanece ativa no Facebook.

O relatório descobriu que as fazendas de trolls estavam atingindo os mesmos grupos demográficos escolhidos pela Agência de Pesquisa na Internet (IRA, pela sigla em inglês), apoiada pela Rússia, durante a eleição de 2016, que tinha como alvo cristãos, negros e nativos americanos. Uma investigação do BuzzFeed News de 2018 descobriu que pelo menos um membro russo da IRA, acusada de suposta interferência nas eleições dos EUA de 2016, também visitou a Macedônia por volta da época do surgimento de suas primeiras fazendas de trolls, embora não tenha encontrado evidências concretas de uma conexão. (O Facebook disse que suas investigações também não descobriram uma conexão entre a IRA e as fazendas de trolls da Macedônia.)

“Isto não é normal. Isso não é saudável”, escreveu Allen. “Capacitamos páginas deturpadas a acumular enormes números de seguidores para propósitos, em grande parte, desconhecidos … O fato de que administradores com possíveis laços com a IRA tenham acesso a um grande público nos mesmos grupos demográficos visados ​​pela agência, representa um risco enorme para as eleições de 2020 dos Estados Unidos”.

Enquanto as fazendas de trolls obtiveram sucesso ao usar essas táticas, qualquer outro usuário malicioso também poderia, ele continuou: “Se as fazendas de trolls estão alcançando 30 milhões de usuários dos Estados Unidos com conteúdo direcionado a afro-americanos, não deveríamos nos surpreender se descobrirmos que a IRA também tem atualmente um grande público neste grupo”.

Allen escreveu o relatório como a quarta e última parcela de um esforço de um ano e meio para entender as fazendas de trolls. Ele deixou a empresa no mesmo mês, em parte por causa da frustração pela liderança ter “efetivamente ignorado” sua pesquisa, de acordo com o ex-funcionário do Facebook que forneceu o relatório. Allen não quis comentar.

O relatório revela a situação alarmante em que os executivos do Facebook deixaram a plataforma há anos, apesar das repetidas promessas públicas de atacar agressivamente a interferência eleitoral do exterior. A MIT Technology Review americana disponibiliza o relatório completo, com os nomes dos funcionários ocultados, porque é de interesse público.

As revelações do relatório incluem:

Em outubro de 2019, cerca de 15.000 páginas do Facebook com um público majoritariamente americano eram administradas por usuários de Kosovo e Macedônia, ambos conhecidos como malfeitores durante as eleições de 2016.

Coletivamente, essas fazendas de trolls, que o relatório trata como uma única página para fins de comparação, alcançaram 140 milhões de usuários nos Estados Unidos por mês e 360 ​​milhões de usuários globais por semana. A página do Walmart alcançou a segunda maior audiência dos Estados Unidos, com 100 milhões.

As páginas da fazenda trolls também se combinaram para formar:

a maior página cristã americana no Facebook, 20 vezes maior que a segunda maior colocada, atingindo 75 milhões de usuários nos Estados Unidos mensalmente, 95% dos quais nunca haviam seguido nenhuma delas.

a maior página afro-americana no Facebook, três vezes maior do que a segunda maior, alcançando 30 milhões de usuários nos Estados Unidos mensalmente, 85% dos quais nunca haviam seguido nenhuma delas.

a segunda maior página nativa americana no Facebook, alcançando 400.000 usuários mensalmente, 90% dos quais nunca haviam seguido nenhuma delas.

a quinta maior página de mulheres do Facebook, alcançando 60 milhões de usuários nos Estados Unidos mensalmente, 90% dos quais nunca haviam seguido nenhuma delas.

As fazendas de trolls afetam principalmente os Estados Unidos, mas também têm como alvo o Reino Unido, Austrália, Índia e países da América Central e do Sul.

O Facebook conduziu vários estudos confirmando que o conteúdo com maior probabilidade de receber engajamento do usuário (curtidas, comentários e compartilhamentos) provavelmente é ruim. Ainda assim, a empresa continuou a classificar o conteúdo nos feeds de notícias do usuário de acordo com o que recebia o maior engajamento.

O Facebook proíbe as páginas de postar conteúdo simplesmente copiado e colado de outras partes da plataforma, mas não impõe a política contra usuários malfeitores conhecidos. Isso torna mais fácil para atores estrangeiros que não falam o idioma local postarem conteúdo totalmente copiado e ainda assim alcançar um grande público. Em determinado momento, até 40% das visualizações de páginas nos Estados Unidos foram aquelas que apresentavam principalmente conteúdo não original ou material parcialmente original.

As fazendas de trolls já haviam se infiltrado nos programas de parceria Instant Articles e Ad Breaks do Facebook, que são projetados para ajudar as organizações de notícias e outras editoras a monetizar seus artigos e vídeos. A certa altura, graças à falta de verificações básicas de qualidade, até 60% das leituras do Instant Article iam para conteúdo que havia sido plagiado de outro lugar. Isso tornou mais fácil para as fazendas de trolls se misturarem sem chamar atenção e até mesmo receberem pagamentos do Facebook.

Como o Facebook habilita fazendas de trolls e aumenta seu público

O relatório analisa especificamente as fazendas de trolls baseadas em Kosovo e na Macedônia, que são administradas por pessoas que não necessariamente entendem a política americana. No entanto, devido à forma como os sistemas de recompensa do feed de notícias do Facebook são projetados, elas ainda podem impactar significativamente o discurso político.

No relatório, Allen identifica três razões pelas quais essas páginas são capazes de conquistar públicos tão grandes. Primeiro, o Facebook não penaliza as páginas por postar conteúdo não original. Se algo já se tornou viral, provavelmente se tornará viral novamente quando for postado uma segunda vez. Isso torna muito fácil para qualquer um conseguir um grande número de seguidores entre os negros americanos, por exemplo. Os agentes mal-intencionados podem simplesmente copiar o conteúdo viral das páginas dos negros americanos, ou mesmo do Reddit e do Twitter, e colá-lo em sua própria página, ou às vezes dezenas de páginas.

Em segundo lugar, o Facebook distribui conteúdo chamativo das páginas para pessoas que não as seguem. Quando os amigos dos usuários comentam ou compartilham de novo postagens em uma dessas páginas, esses usuários também verão isso em seus feeds de notícias. Quanto mais o conteúdo de uma página é comentado ou compartilhado, mais ela vai além de seus seguidores. Isso significa que as fazendas de trolls, cuja estratégia se concentra em publicar o conteúdo mais chamativo, têm uma capacidade descomunal de alcançar novos públicos.

Terceiro, o sistema de classificação do Facebook impulsiona o conteúdo mais chamativo no feed de notícias dos usuários. Na maioria das vezes, as pessoas que administram fazendas de trolls têm mais motivos financeiros do que políticos; eles postam o que recebe mais engajamento, com pouca consideração ao conteúdo real. Mas a desinformação, o clickbait e o conteúdo politicamente divisionistas têm maior propensão de receber altas taxas de engajamento (como as próprias análises internas do Facebook reconhecem), as fazendas de trolls tendem a postar mais desses conteúdos com o tempo, diz o relatório.

Como resultado, em outubro de 2019, todas as 15 das principais páginas direcionadas aos cristãos americanos, 10 das 15 principais direcionadas aos negros americanos e quatro das 12 principais direcionadas aos nativos americanos estavam sendo administradas por fazendas de trolls no Facebook.

Principais páginas focadas nos usuários afro-americanos no Facebook, outubro de 2019

Classificação/ Afro-americanos/Fazenda de trolls? Sim/não

Principais páginas focadas nos usuários cristãos americanos no Facebook, outubro de 2019

Classificação/ Cristãos/Fazenda de trolls? Sim/não

Principais páginas focadas nos usuários de povos nativos dos Estados Unidos no Facebook, outubro de 2019

Classificação/ Povos nativos dos Estados Unidos /Fazenda de trolls? Sim/não

“Nossa plataforma deu um megafone a um punhado de agentes mal-intencionados que falam com fiéis cristãos, mas que, com base em suas práticas de produção de mídia, nunca foram à igreja”, escreveu Allen. “A mesma coisa com a comunidade afro-americana. Analisando suas práticas de produção de mídia, eles nunca tiveram uma interação com um afro-americano”.

“Sempre me parecerá profundamente estranho … e genuinamente horrível”, escreveu ele. “Parece bastante claro que, até que essa situação seja corrigida, sempre encontraremos adversidades ao tentar cumprir nossa missão”.

O relatório também sugeriu uma possível solução. “Esta está longe de ser a primeira vez que a humanidade lutou contra agentes mal-intencionados em nossos ecossistemas de mídia”, escreveu ele, referindo-se ao uso que o Google faz do que é conhecido como uma medida de autoridade baseada em gráficos, que avalia a qualidade de uma página da web de acordo com a frequência com que ela cita e é citado por outras páginas da web de qualidade, para rebaixar os sites suspeitos em seus rankings de busca.

“Temos nossa própria implementação de medição de autoridade de acordo com gráficos”, continuou ele. Se a plataforma estivesse mais atenta a essa métrica nas páginas de classificação, isso poderia ajudar a reverter a tendência perturbadora de que elas alcançam públicos mais amplos.

Quando as classificações do Facebook priorizam o engajamento, as páginas de trolls superam as páginas autênticas, escreveu Allen. Mas “90% das páginas de fazenda de trolls têm exatamente 0 autoridade de gráfico … [Páginas autênticas] claramente vencem.”

Problemas sistêmicos

Uma pesquisa em todas as páginas de fazenda trolls listadas no relatório revela que cinco ainda estão ativas quase dois anos depois:

Uma página chamada “My Baby Daddy Ain’t Shit”, que era a maior página do Facebook voltada para afro-americanos em outubro de 2019.

Uma página chamada “Savage Hood”, voltada para os afro-americanos.

Uma página chamada “Hood Videos”, voltada para afro-americanos.

Uma página chamada “Purpose of Life”, voltada para os cristãos.

Uma página chamada “Eagle Spirit”, voltada para os nativos americanos.

Uma página de fazenda de trolls voltada para os cristãos americanos.

O recente relatório polêmico do Facebook “Widely Viewed Content” sugere que algumas das principais vulnerabilidades exploradas pelas fazendas de trolls também permanecem as mesmas. Quinze das 19 postagens mais vistas listadas no relatório foram plagiadas de outras postagens que já haviam se tornado virais no Facebook ou em outra plataforma, de acordo com uma análise de Casey Newton do The Verge.

Samantha Bradshaw, uma pesquisadora de pós-doutorado na Universidade de Stanford que estuda a interseção de desinformação, rede social e democracia, diz que o relatório “fala sobre muitos dos problemas sistêmicos mais profundos com a plataforma e seu algoritmo, especialmente na forma como promovem certos tipos de conteúdo para determinados usuários, todos com base neste valor subjacente de crescimento”. Se isso não for corrigido, seguirão criando incentivos econômicos distorcidos para agentes mal-intencionados, ela acrescenta: “Esse é o problema”.

Leia o relatório completo aqui:

Nossos tópicos