Grace Windheim já tinha ouvido falar de deepfakes antes. Mas ela nunca havia pensado em como fazer um. Foi um meme viral que usava a tecnologia que a levou a pesquisar a possibilidade – e descobrir que era super fácil e totalmente gratuito.
Em um dia, ela criou um tutorial passo a passo no YouTube para guiar outras pessoas ao longo do processo. “Fazer uma dessas deepfakes e sobrepor áudio não é tão complicado quanto você pode pensar”, diz ela no vídeo, publicado em 4 de agosto. Desde então, foi visto mais de 360.000 vezes.
Windheim faz parte de um novo grupo de criadores online que estão brincando com deepfakes conforme a tecnologia se torna cada vez mais acessível e se infiltra na cultura da internet. O fenômeno não é nenhuma novidade; ferramentas de manipulação de mídia frequentemente ganham força por meio de brincadeiras e paródias. Mas também levanta novas preocupações sobre seu potencial uso abusivo.
Deepfakes já foram usados para assediar mulheres trocando, sem consenso, seus rostos em vídeos pornôs. Os acadêmicos também se preocupam com sua capacidade de atrapalhar as eleições. Embora as deepfakes criadas para memes ainda sejam obviamente falsos e relativamente inofensivos, eles podem não permanecer assim por muito tempo.
“Há uma linha tênue entre usar deepfakes para entretenimento e memes e usá-los para fazer o mal”, diz Windheim. “Neste tutorial, estou dizendo: ‘É assim que você cria este deepfake específico’. Mas o assustador sobre o código é que ele pode ser aplicado para fazer qualquer tipo de deepfake que você quiser.”
“Eu fui um tolo”
Windheim, recém-formada, trabalha como criadora de conteúdo na startup Kapwing, com sede em São Francisco. A empresa, que começou como fabricante de memes, oferece um pacote baseado em navegador gratuito de ferramentas de software de edição de vídeo. Como parte de seu trabalho, Windheim administra o canal do YouTube e produz vídeos de marketing de conteúdo para mostrar as capacidades dos produtos.
No início de agosto, ela encontrou um termo de pesquisa particularmente viral no Google Trends. Três das cinco principais consultas eram sobre um “meme deepfake Baka Mitai“. “Quase nunca vejo uma consulta surgir com tanta frequência”, diz ela.
O meme, ao que parece, foi baseado em um vídeo de um YouTuber dublando uma música de videogame japonês chamada “Baka Mitai” (tradução: “Eu fui um tolo”). Vários usuários da internet usaram o vídeo para criar deepfakes de baixa qualidade de todo mundo, desde Barack Obama a Thanos (personagem fictício das histórias em quadrinhos publicadas pela Marvel Comics) cantando a música. Apesar de sua popularidade, no entanto, Windheim descobriu que pouco havia sido comentado sobre como realmente criar uma. Ela viu uma oportunidade.
O algoritmo deepfake em específico que as pessoas estavam usando vem de um artigo de pesquisa de 2019 apresentado na NeurIPS, a maior conferência anual de pesquisa de Inteligência Artificial (IA). Ao contrário de outros algoritmos mais complexos, ele permite que um usuário pegue qualquer vídeo do rosto de uma pessoa e use-o para animar uma foto do rosto de outra pessoa com apenas algumas linhas de código.
Windheim encontrou o algoritmo de código aberto em um tutorial do YouTube e o portou para um arquivo notebook no Google Colab, um serviço gratuito para execução de código na nuvem. Depois de algumas tentativas, com a ajuda das habilidades que adquiriu nas aulas ocasionais de codificação na faculdade, ela conseguiu o código para criar um vídeo de deepfake. Ela então sincronizou a música com o vídeo com as ferramentas de Kapwing, criando uma nova versão do meme.
Desde que ela postou seu tutorial no canal de Kapwing no YouTube, vários outros YouTubers também fizeram tutoriais usando o mesmo algoritmo. A diferença: muitos deles estão ensinando como fazer qualquer tipo de meme deepfake. Um até ensina as pessoas a fazê-los usando o celular.
Esses memes agora estão aparecendo em todos os lugares nas redes sociais: no Twitter, Instagram e especialmente no TikTok. Os vídeos curtos da plataforma, que muitas vezes apresentam desde coreografias simples até música contagiantes, são particularmente propícios para serem manipulados com a deefpfake em um efeito fascinante. A hashtag #deepfake no aplicativo já acumulou mais de 120 milhões de visualizações.
@lemonjezusi did one with @afiqhakim this time hope y’all enjoy! ##deepfake ##pokimane ##xqc ##drdisrespect ##tsmmyth ##greekgodx ##tyler1 ##sodapoppin ##ludwig ##tfue♬ All TikTok Mashup (JVKE – Upside Down) – imjakelawson
@helltaker03##huronarolera ##bellapoarch ##аниме ##anime ##аниметоп ##rek ##top ##tik_tok ##tiktok ##длявас ##fyp ##рекомендации ##рек ##топ ##р_е_к_о_м_и_н_д_а_ц_и_и♬ оригинальный звук – helltaker03
Há uma hesitação estranha e reveladora nos rostos nos vídeos feitos com este algoritmo, o que torna este material fácil de reconhecer; isso faz parte do humor das deepfakes. Essas imperfeições – e a qualidade surrealista dos memes – evitarão que sejam confundidos com a realidade. No momento, deepfakes mais hiper-realistas são muito mais desafiadores em questão de técnica e computacionalmente caros para criar.
Mas no ritmo em que a tecnologia está avançando, deepfakes fáceis de fazer e que sejam quase indistinguíveis da realidade estão provavelmente bem perto de serem criadas. Algumas empresas, como a gigante tecnológica chinesa Tencent, proprietária do WeChat, anunciaram publicamente suas intenções de investir mais recursos no avanço e para aplicações comerciais de ponta.
Deepfakes não são inerentemente ruins. A tecnologia já foi usada por artistas, educadores e outros como uma nova ferramenta poderosa para a expressão criativa. Em fevereiro, por exemplo, a revista Time usou deepfakes para recriar a experiência de Martin Luther King Jr. proferindo seu discurso “Eu tenho um sonho” em realidade virtual. Em última análise, os reguladores precisam definir o que é o uso apropriado e o que pode causar danos.
Por enquanto, Windheim está contando com seu próprio julgamento para decidir isso. Antes de postar seu vídeo, ela leu sobre as implicações das deepfakes e conversou com seus colegas. “Nunca pretendemos que nossos produtos ajudem os usuários a espalhar informações erradas”, diz ela, “então só queríamos fazer um teste de sanidade por conta própria.”
No final, eles decidiram sobre algumas regras básicas: eles focariam seus tutoriais em fazer memes específicos, nunca em criar deepfakes fora desse contexto. Contanto que seja entretenimento e dentro da cultura de meme, ela diz, “estamos dentro do limite”.
MIT Technology Review