Empresa diz estar desenvolvendo sistema de reconhecimento facial com o uso de DNA
Inteligência artificial

Empresa diz estar desenvolvendo sistema de reconhecimento facial com o uso de DNA

Embora seja quase certo que não funcione, é um sinal revelador de para onde o campo está caminhando.

Um policial está em uma cena de crime onde aconteceu um assassinato. Não há testemunhas ou filmagem das câmeras de segurança. Não há suspeitos ou motivos óbvios. Apenas um pouco de cabelo na manga do casaco da vítima. O DNA das células de um dos fios é copiado e comparado com outros em um banco de dados. Nenhuma combinação é retornada, e o caso esfria.

A subsidiária de reconhecimento facial da empresa israelense de Inteligência Artificial (IA) Cortica, a Corsight AI, pretende criar uma solução para tal situação, usando DNA para criar um modelo de rosto que possa ser originado por meio de um sistema de reconhecimento facial. Mas é uma tarefa que os especialistas da área consideram cientificamente insustentável.

A Corsight revelou seu produto “DNA to Face” em uma apresentação do CEO Robert Watts e do vice-presidente executivo Ofer Ronen com o objetivo de impressionar os financiadores na Imperial Capital Investor Conference em Nova York (EUA) em 15 de dezembro. Fazia parte da apresentação geral do planejamento de produtos da empresa, que também incluía reconhecimento de movimento e voz. A ferramenta “constrói um perfil físico analisando o material genético coletado em uma amostra de DNA”, de acordo com a apresentação da empresa ao grupo de pesquisa de vigilância do IPVM, compartilhada com a MIT Technology Review americana.

Um print da apresentação aos investidores da Corsight mostrando seu guia de produtos que apresenta “voz a face”, “DNA a face” e “movimento” como uma expansão de seus recursos de reconhecimento facial.

A Corsight recusou o pedido a uma entrevista sobre a apresentação e seu guia de produtos. “Não estamos nos envolvendo com a imprensa no momento, pois os detalhes do que estamos fazendo são confidenciais para a empresa”, escreveu Watts em um e-mail.

Mas os materiais de marketing mostram que a empresa está focada em utilizações por agentes governamentais e policiais de sua tecnologia. Não à toa, seu conselho consultivo consiste no ex-diretor da CIA, James Woolsey, e no ex-diretor do FBI, Oliver Revell.

No entanto, a ciência que seria necessária para apoiar tal sistema ainda não existe e especialistas dizem que o produto exacerbaria os problemas éticos, de privacidade e preconceito que a tecnologia de reconhecimento facial já causa. Mais preocupante ainda, é um sinal das ambições da indústria para o futuro, onde a detecção de rostos se torna um aspecto de um esforço mais amplo para identificar pessoas por qualquer meio disponível, mesmo os imprecisos.

Este artigo foi escrito em conjunto com Donald Maye, do IPVM, que informou que “esta apresentação foi a primeira vez que o IPVM soube que uma empresa estava tentando comercializar um produto de reconhecimento facial associado a uma amostra de DNA”.

Um passado quadriculado

A ideia da Corsight não é inteiramente nova. A Human Longevity, uma empresa de “inteligência em saúde baseada em genômica” fundada pelas celebridades do Vale do Silício, Craig Venter e Peter Diamandis, afirmou ter usado DNA para prever rostos em 2017. Na época, a MIT Technology Review americana informou que os especialistas, no entanto, tinham dúvidas sobre a tecnologia. Um ex-funcionário da Human Longevity disse que a empresa não pode escolher uma pessoa na multidão usando um genoma, e Yaniv Erlich , diretor de ciências da plataforma de genealogia MyHeritage, publicou uma resposta apresentando as principais falhas na pesquisa.

A pequena empresa de computação de DNA, Parabon NanoLabs, fornece às autoridades policiais representações físicas de pessoas derivadas de amostras de DNA por meio de sua linha de produtos Snapshot, que inclui genealogia genética e renderizações 3D do rosto. (A Parabon publica alguns casos em seu site com comparações entre fotos de pessoas que as autoridades estão interessadas em encontrar e renderizações que a empresa produziu.)

As composições geradas por computador da Parabon também vêm com um conjunto de características fenotípicas, como cor dos olhos e da pele, que recebem uma pontuação de confiança. Por exemplo, uma composição pode dizer que há 80% de chance de a pessoa procurada ter olhos azuis. Artistas forenses também podem alterar as composições para criar modelos de rosto finalizados que incorporam descrições de fatores não genéticos, como peso e idade, sempre que possível.

O site da Parabon afirma que seu software está ajudando a resolver uma média de um caso por semana, e Ellen McRae Greytak, diretora de bioinformática da empresa, diz que resolveu mais de 200 casos nos últimos sete anos, embora a maioria seja resolvida com genealogia genética em vez de uma análise das composições. Greytak diz que a empresa foi criticada por não publicar seus métodos e dados proprietários; ela atribui isso a uma “decisão de negócios”.

A Parabon não atrela IA de reconhecimento facial com seu serviço de fenotipagem e estipula a seus clientes policiais que não usem as imagens geradas a partir de amostras de DNA como input em sistemas de reconhecimento facial.

A tecnologia da Parabon “não indica o número exato de milímetros entre os olhos ou a proporção deles, nariz e boca”, diz Greytak. Sem esse tipo de precisão, os algoritmos de reconhecimento facial não podem fornecer resultados precisos: obter medições de DNA tão precisas exigiria descobertas científicas fundamentalmente novas, enfatiza Greytak, mas “estudos que tentaram fazer previsões nesse nível não tiveram muito sucesso”. Greytak diz que Parabon apenas prevê a forma geral do rosto de alguém (embora a viabilidade científica de tal previsão também tenha sido questionada).

A polícia é conhecida por executar esboços forenses com base em descrições de testemunhas por meio de sistemas de reconhecimento facial. Um estudo de 2019 do Centro de Privacidade e Tecnologia de Georgetown Law (EUA) descobriu que pelo menos meia dúzia de agências policiais nos EUA “permitem, se não incentivam” o uso de esboços forenses, desenhados à mão ou gerados por computador, como fotos que são enviadas a sistemas de reconhecimento facial. Especialistas em IA alertaram que esse processo provavelmente leva a níveis mais baixos de precisão.

A Corsight também foi criticada no passado por exagerar as capacidades e a precisão de seu sistema de reconhecimento facial, o descrevendo como sendo “mais ético para condições altamente desafiadoras”, de acordo com uma apresentação de slides disponível online. Em uma demonstração de tecnologia para o IPVM em novembro passado, o CEO da Corsight, Watts, disse que o sistema de reconhecimento facial da empresa pode “identificar alguém com uma máscara facial, e não apenas qualquer uma, mas uma máscara de esqui”. O IPVM relatou que o uso da IA ​​da Corsight em um rosto mascarado gerou uma pontuação de confiança de 65%, que é a medida da Corsight de quão provável é a correspondência do rosto em seu banco de dados. Também foi observado que a máscara lembrava mais uma balaclava ou bandana de pescoço, ao contrário de uma máscara de esqui, que tem aberturas apenas para a boca e os olhos.

Problemas mais abrangentes em relação a precisão da tecnologia de reconhecimento facial foram bem documentados (inclusive pela MIT Technology Review americana). Eles são maiores quando as fotografias são mal iluminadas ou tiradas em ângulos extremos, e quando os sujeitos têm pele mais escura, são mulheres ou são muito velhos ou muito jovens. Os defensores da privacidade e o público também criticaram a tecnologia de reconhecimento facial, particularmente sistemas como o Clearview AI que vasculham as redes sociais como parte de seu mecanismo de correspondência.

O uso da tecnologia pelas forças policiais é particularmente preocupante. Boston, Minneapolis e São Francisco (todas nos Estados Unidos) estão entre as muitas cidades que a proibiram. A Amazon e a Microsoft pararam de vender produtos de reconhecimento facial para grupos policiais, e a IBM retirou seu software do mercado.

“Pseudociência”

“A ideia de que você será capaz de criar algo com o nível de granularidade e fidelidade necessário para executar uma busca de correspondência de rosto… Para mim, isso é absurdo”, diz Albert Fox Cahn, advogado de direitos civis e diretor executivo da Surveillance Technology Oversight Project, que trabalha extensivamente em questões relacionadas a sistemas de reconhecimento facial. “Isso é pseudociência”.

Dzemila Sero, pesquisador do Computational Imaging Group do Centrum Wiskunde & Informatica, o instituto nacional de pesquisa em matemática e ciência da computação da Holanda, diz que a ciência para apoiar tal sistema ainda não está suficientemente desenvolvida, pelo menos não publicamente. Sero diz que o catálogo de genes necessários para produzir representações precisas de rostos de amostras de DNA está atualmente incompleto, citando o estudo de 2017 da Human Longevity.

Além disso, fatores como o meio ambiente e o envelhecimento têm efeitos substanciais em rostos que não podem ser capturados por meio de fenotipagem de DNA, e pesquisas mostraram que genes individuais não afetam a aparência do rosto de alguém tanto quanto seu gênero e ascendência. “As tentativas prematuras de implementar essa técnica provavelmente prejudicariam a confiança e o apoio à pesquisa genômica e não gerariam nenhum benefício social”, disse ela ao MIT Technology Review em um e-mail.

Sero estudou o conceito inverso do sistema da Corsight, “Rosto a DNA” em vez de “DNA a rosto”, combinando um conjunto de fotografias 3D com uma amostra de DNA. Em um artigo na Nature Communications, Sero e sua equipe relataram taxas de precisão entre 80% e 83%. No entanto, Sero diz que seu trabalho não deve ser usado pelos promotores como evidência incriminadora, e que “esses métodos também apresentam riscos inegáveis ​​de maiores desigualdades raciais na justiça criminal, o que justifica a cautela contra a aplicação prematura dessas técnicas até que sejam estabelecidas garantias adequadas”.

As forças policiais dependem de conjuntos de dados de DNA, predominantemente, o site de ascendência gratuita GEDmatch, que foi fundamental na caça pelo notório “Golden State Killer”. Mas mesmo a amostragem de DNA, antes considerada pelo Conselho Nacional de Pesquisa dos EUA a única forma de evidência forense cientificamente rigorosa, recentemente foi criticada por problemas de precisão.

Fox Cahn, que atualmente está processando o Departamento de Polícia de Nova York (EUA) para obter registros relacionados ao viés no uso da tecnologia de reconhecimento facial, diz que o impacto do sistema hipotético da Corsight seria desastroso. “Avaliando o impacto que isso terá, todos os casos de falha no reconhecimento facial correm o risco de aumentar”, diz Fox Cahn. “É fácil imaginar como isso poderia ser usado de maneiras verdadeiramente assustadoras e orwellianas”.

O futuro da tecnologia de reconhecimento facial

Apesar dessas preocupações, o mercado de tecnologia de reconhecimento facial está crescendo e as empresas estão disputando clientes. A Corsight é apenas uma das muitas que oferecem serviços de correspondência de fotos com novos recursos chamativos, independentemente de terem comprovado seu funcionamento ou não.

Muitos desses novos produtos procuram integrar o reconhecimento facial com outra forma de reconhecimento. A empresa de reconhecimento facial NtechLab, com sede na Rússia, por exemplo, oferece sistemas que identificam pessoas com base em suas placas de carro e características faciais, e o fundador Artem Kuharenko disse a MIT Technology Review em 2020 que seus algoritmos tentam “extrair o máximo de informações possíveis do material de vídeo”. Nesses sistemas, o reconhecimento facial se torna apenas uma parte de um aparato que pode identificar pessoas por meio de uma série de técnicas, fundindo informações pessoais em bancos de dados conectados em uma espécie de panóptico de dados.

O sistema “DNA to Face” da Corsight parece ser a incursão da empresa na construção de um pacote de vigilância abrangente e futurista que planejam oferecer a possíveis compradores. Mas mesmo com a expansão do mercado para essas tecnologias, a Corsight e outras correm maior risco de comercializar tecnologias de vigilância repletas de preconceitos e imprecisões.

Correção: Uma versão anterior deste artigo dizia que a Parabon NanoLabs “resolveu mais de 600 casos”. A empresa tem trabalhado em mais de 600 casos, resolvendo mais de 200.