O Departamento de Defesa dos EUA selou um acordo de dois anos, no valor de US$ 2,4 milhões, com a startup Hive AI, dona de uma tecnologia de detecção de deepfakes. É o primeiro contrato desse tipo para a Unidade de Inovação de Defesa do DOD, que acelera a adoção de novas tecnologias para o setor norte-americano. Os modelos da Hive AI são capazes de detectar conteúdo de vídeo, imagem e áudio gerado por IA.
Embora as falsificações profundas já existam há quase uma década, a IA generativa tornou-as mais fáceis de criar e com aparência mais realista do que nunca, tornando-as especialmente propícias para o abuso em campanhas de desinformação ou fraude. A defesa contra esses tipos de ameaças é agora crucial para a segurança nacional, diz o capitão Anthony Bustamante, gerente de projetos e operador de guerra cibernética da Defense Innovation Unit.
“Esse trabalho representa um avanço significativo no fortalecimento de nossa vantagem de informação ao combatermos campanhas sofisticadas de desinformação e ameaças de mídia sintética”, afirma Bustamante. A Hive foi escolhida dentre um grupo de 36 empresas para testar sua tecnologia de detecção e atribuição de deepfake com o DOD. O contrato pode permitir que o departamento detecte e combata o engano da IA em larga escala.
A defesa contra deepfakes é “existencial”, diz Kevin Guo, CEO da Hive AI. “Essa é a evolução da guerra cibernética”.
A tecnologia da Hive foi treinada em uma grande quantidade de conteúdo, alguns gerados por IA e outros não. Ela capta sinais e padrões no conteúdo gerado por IA que são invisíveis ao olho humano, mas que podem ser detectados por um modelo de inteligência artificial.
“Acontece que cada imagem gerada por um desses geradores tem esse tipo de padrão se você souber onde procurá-lo”, diz Guo. A equipe do Hive acompanha constantemente os novos modelos e atualiza sua tecnologia de acordo com eles.
As ferramentas e metodologias desenvolvidas por meio dessa iniciativa têm o potencial de serem adaptadas para uso mais amplo, não apenas abordando desafios específicos da defesa, mas também protegendo instituições civis contra desinformação, fraude e engano, disse o DOD em um comunicado.
A tecnologia da Hive oferece desempenho de última geração na detecção de conteúdo gerado por IA, pontua Siwei Lyu, professor de ciência da computação e engenharia da Universidade de Buffalo. Ele não esteve envolvido no trabalho da Hive, mas testou suas ferramentas de detecção.
Ben Zhao, professor da Universidade de Chicago, que também avaliou de forma independente a tecnologia da Hive AI, concorda, mas ressalta que ela está longe de ser infalível. “A Hive é certamente melhor do que a maioria das entidades comerciais e algumas das técnicas de pesquisa que tentamos, mas também mostramos que não é nada difícil de contornar”, diz. A equipe descobriu que os adversários poderiam adulterar as imagens de forma a contornar a detecção do Hive.
E, dado o rápido desenvolvimento das tecnologias de IA generativa, ainda não se sabe ao certo como ela se sairá em cenários reais que o setor de defesa poderá enfrentar, acrescenta Lyu.
Guo diz que a Hive está disponibilizando seus modelos para o Departamento de Defesa com o objetivo de que o departamento possa usar as ferramentas off-line e em seus próprios dispositivos. Isso evita o vazamento de informações confidenciais.
Mas quando se trata de proteger a segurança nacional contra agentes sofisticados, os produtos prontos para uso não são suficientes, enfatiza Zhao: “Há muito pouco que eles possam fazer para se tornarem completamente robustos perante ataques inesperados a um nível de estado-nação”.
–
Por:Melissa Heikkilä
Melissa é repórter sênior da MIT Technology Review, cobrindo assuntos ligados à Inteligência Artificial e como ela está mudando nossa sociedade.
Melissa Heikkila
