Como muitos outros, recentemente abandonei a plataforma X em direção ao Bluesky. No processo, comecei a seguir várias pessoas que seguia no X. No Dia de Ação de Graças, fiquei feliz ao ver uma mensagem privada de um colega repórter de IA, Will Knight, da Wired. Ou pelo menos foi o que pensei. Comecei a suspeitar quando a pessoa que dizia ser Knight mencionou ser de Miami, enquanto Knight, na verdade, é do Reino Unido. O nome de usuário era quase idêntico ao de Will Knight, e o perfil usava a mesma foto.
Então, mais mensagens começaram a aparecer. Paris Marx, um crítico proeminente de tecnologia, entrou nas minhas mensagens perguntando como eu estava. “As coisas estão indo esplendidamente por aqui”, ele respondeu. A situação voltou a parecer suspeita. “Como estão suas negociações?” perguntou o falso-Marx. Esse perfil era bem mais sofisticado que o de Knight: ele havia copiado meticulosamente todos os tweets e retweets da conta real de Marx nas últimas semanas.
Ambos os perfis acabaram sendo deletados, mas não antes de tentarem me convencer a configurar uma carteira de criptomoedas e uma conta em uma “pool de mineração na nuvem”. Knight e Marx confirmaram que essas contas não pertenciam a eles e que têm lutado contra perfis falsos há semanas.
Eles não são os únicos. Sheera Frankel, jornalista de tecnologia do New York Times, e Molly White, pesquisadora e crítica de criptomoedas, também sofreram com falsificações no Bluesky, provavelmente com o objetivo de aplicar golpes. Essa situação é consistente com a pesquisa de Alexios Mantzarlis, diretor da Security, Trust, and Safety Initiative na Cornell Tech, que analisou manualmente os 500 maiores usuários do Bluesky por número de seguidores. Ele descobriu que, dos 305 perfis pertencentes a pessoas reais, pelo menos 74 haviam sido falsificados por outras contas.
A plataforma precisou lidar repentinamente com um influxo de milhões de novos usuários nos últimos meses, à medida que as pessoas abandonaram o X em protesto contra a aquisição da plataforma por Elon Musk. A base de usuários do Bluesky mais que dobrou desde setembro, passando de 10 milhões para mais de 20 milhões. Esse aumento repentino — acompanhado pelo inevitável surgimento de golpistas — significa que o Bluesky ainda está tentando se adaptar, diz White.
“Essas contas me bloqueiam assim que são criadas, então eu não as vejo imediatamente”, diz Marx. Tanto ele quanto White descrevem um padrão frustrante: quando uma conta falsa é removida, outra surge logo em seguida. White diz que já experimentou um fenômeno semelhante no X e no TikTok.
Uma solução para provar que as pessoas são quem dizem ser ajudaria. Antes de Musk assumir a plataforma, os funcionários do X, anteriormente conhecido como Twitter, verificavam usuários como jornalistas e políticos, colocando um selo azul ao lado de seus nomes para indicar que eram fontes confiáveis de notícias. Depois que Musk assumiu, ele aboliu o sistema antigo e ofereceu os selos azuis a todos os clientes pagantes.
Os golpes recorrentes de falsificação de identidade têm gerado apelos para que o Bluesky implemente algo semelhante ao sistema original do Twitter. Alguns usuários, como o jornalista investigativo Hunter Walker, criaram suas próprias iniciativas para verificar jornalistas. Atualmente, no entanto, as opções para os usuários se verificarem na plataforma são limitadas. Por padrão, os nomes de usuário no Bluesky terminam com o sufixo bsky.social. A plataforma recomenda que organizações de notícias e pessoas de destaque verifiquem suas identidades configurando seus próprios sites como nomes de usuário. Por exemplo, senadores dos EUA verificaram suas contas com o sufixo senate.gov. Mas essa técnica não é infalível. Ela não verifica a identidade das pessoas — apenas sua afiliação a um site específico.
O Bluesky não respondeu aos pedidos de comentário da MIT Technology Review, mas a equipe de segurança da empresa postou que a plataforma atualizou sua política de falsificação de identidade para ser mais rigorosa e que removeria contas falsas e de “ocupação de nome de usuário”. A empresa também afirmou que quadruplicou sua equipe de moderação para agir mais rapidamente nos relatórios de falsificação. No entanto, parece estar com dificuldades para acompanhar. “Ainda temos um grande acúmulo de relatórios de moderação devido ao influxo de novos usuários, como já compartilhamos anteriormente, embora estejamos progredindo”, afirmou a empresa.
A natureza descentralizada do Bluesky torna a remoção de falsificadores um problema mais difícil de resolver. Concorrentes como X e Threads dependem de equipes centralizadas dentro das empresas para moderar conteúdos indesejados e comportamentos como falsificações. O Bluesky, no entanto, é construído com base no AT Protocol, uma tecnologia descentralizada e de código aberto que dá aos usuários mais controle sobre o conteúdo que veem e permite a criação de comunidades focadas em temas específicos. A maioria das pessoas se inscreve no Bluesky Social, a principal rede social, cujas diretrizes proíbem falsificações. No entanto, o Bluesky Social é apenas um dos serviços ou “clientes” disponíveis, e outros serviços possuem suas próprias práticas de moderação e termos de uso.
Esse modelo significa que, até agora, o Bluesky não precisou de um exército de moderadores para lidar com comportamentos indesejados, já que depende dessa abordagem liderada pela comunidade, explica Wayne Chang, fundador e CEO da SpruceID, uma empresa de identidade digital. Mas isso pode precisar mudar.
“Para fazer esses aplicativos funcionarem, você precisa de algum nível de centralização”, diz Chang. Apesar das diretrizes da comunidade, é difícil impedir a criação de contas falsas, e o Bluesky está engajado em um jogo de gato e rato para derrubar perfis suspeitos.
Lidar com o problema das falsificações é crucial porque isso ameaça a credibilidade do Bluesky, diz Chang. “É uma reclamação legítima de um usuário do Bluesky dizer: ‘Ei, esses golpistas estão me assediando.’ Você quer que sua marca seja prejudicada? Ou há algo que podemos fazer a respeito?” ele questiona.
Uma solução para esse problema é urgente, pois os atacantes podem abusar do código aberto do Bluesky para criar campanhas de spam e desinformação em uma escala muito maior, alerta Francesco Pierri, professor assistente no Politecnico di Milano, que pesquisou o Bluesky. Sua equipe descobriu que a plataforma apresentou um aumento no número de contas suspeitas desde que foi aberta ao público no início deste ano.
O Bluesky reconhece que suas práticas atuais não são suficientes. Em uma postagem, a empresa afirmou ter recebido feedback de que os usuários querem mais maneiras de confirmar suas identidades, além da verificação por domínio, e está “explorando opções adicionais para aprimorar a verificação de contas”.
Em uma transmissão ao vivo no final de novembro, a CEO do Bluesky, Jay Graber, disse que a plataforma está considerando se tornar um provedor de verificação, mas, por sua abordagem descentralizada, também permitirá que outros ofereçam seus próprios serviços de verificação de usuários. “Os usuários poderão escolher confiar na verificação da equipe do Bluesky ou em outros serviços”, afirmou Graber.
No entanto, o Bluesky parece disposto a moderar o conteúdo na plataforma, diz White. “Eu adoraria ver algo mais proativo, que não exigisse que eu fizesse todas essas denúncias”, acrescenta.
Quanto a Marx, ele conclui: “Espero apenas que ninguém caia nisso de verdade e acabe sendo enganado em golpes de criptomoedas.”
–
Por:Melissa Heikkilä
Melissa é repórter sênior da MIT Technology Review, cobrindo assuntos ligados à Inteligência Artificial e como ela está mudando nossa sociedade.
Melissa Heikkila
