Em 30 de outubro, o presidente Biden lançou sua ordem executiva sobre IA, um movimento importante que aposto que você já ouviu falar até agora. Se você quer um resumo dos pontos mais importantes que precisa saber, confira um artigo que escrevi com minha colega Melissa Heikkilä.
Para mim, uma das partes mais interessantes da ordem executiva foi o destaque para marca d’água e autenticação de conteúdo. Já escrevi um pouco sobre essas tecnologias, que visam rotular o conteúdo para determinar se foi feito por uma máquina ou por uma pessoa.
A ordem diz que o governo estará promovendo essas ferramentas, o Departamento de Comércio estabelecerá diretrizes para elas e agências federais utilizarão essas técnicas no futuro. Em resumo, a Casa Branca está fazendo uma aposta significativa nesses métodos como uma maneira de combater a desinformação gerada por IA.
A promoção dessas tecnologias continuou na cúpula de Segurança de IA do Reino Unido, que começou em 1º de novembro, quando a Vice-Presidente Kamala Harris disse que a administração está incentivando as empresas de tecnologia a “criar novas ferramentas para ajudar os consumidores a discernir se o conteúdo visual e de áudio é gerado por IA”.
Embora não haja muita clareza sobre como exatamente tudo isso acontecerá, um funcionário sênior da administração disse a repórteres que a Casa Branca planejava trabalhar com o grupo por trás do protocolo de internet de código aberto conhecido como Coalizão para Proveniência e Autenticidade de Conteúdo, ou C2PA.
Sorte para você, leitor, que eu explorei a C2PA em julho. Então aqui está uma recapitulação do que você precisa saber sobre isso.
Quais são os conceitos básicos?
Marca d’água e outras tecnologias de autenticação de conteúdo oferecem uma abordagem para identificar conteúdo gerado por IA que é diferente da detecção por IA, a qual é realizada após o fato e tem se mostrado bastante ineficaz até o momento. (A detecção por IA se baseia em tecnologia que avalia uma peça existente de conteúdo e pergunta: “Isso foi criado por IA?“)
Por outro lado, a marca d’água e a autenticação de conteúdo, também chamadas de tecnologias de proveniência, operam em um modelo de adesão, no qual os criadores de conteúdo podem anexar informações antecipadamente sobre as origens de uma peça de conteúdo e como ela pode ter sido alterada enquanto viaja pela internet. A esperança é que isso aumente o nível de confiança para os espectadores dessa informação.
A maioria das tecnologias de marca d’água atuais incorpora uma marca invisível em um conteúdo para indicar que o material foi produzido por uma IA. Em seguida, um detector de marca d’água identifica essa marca. A autenticação de conteúdo é uma metodologia mais ampla que envolve registrar informações sobre a origem do conteúdo de uma forma visível para o espectador, algo semelhante aos metadados.
A C2PA foca principalmente na autenticação de conteúdo por meio de um protocolo chamado Credenciais de Conteúdo, embora o grupo afirme que sua tecnologia pode ser combinada com marca d’água. É “um protocolo de código aberto que depende da criptografia para codificar detalhes sobre as origens de um conteúdo”, como eu escrevi em julho. “Isso significa que uma imagem, por exemplo, é marcada com informações pelo dispositivo de origem (como uma câmera de celular), por quaisquer ferramentas de edição (como o Photoshop) e, por fim, pela plataforma de mídia social para a qual é carregada. Com o tempo, essas informações criam uma espécie de histórico, tudo isso é registrado.”
O resultado é informação verificável, coletada no que os defensores da C2PA comparam a um “rótulo nutricional”, sobre de onde um conteúdo veio, se foi gerado por máquina ou não. A iniciativa e sua comunidade de código aberto afiliada têm crescido rapidamente nos últimos meses, à medida que as empresas correm para verificar seu conteúdo.
Onde a Casa Branca se encaixa nisso?
A parte chave da ordem executiva observa que o Departamento de Comércio estabelecerá “padrões e melhores práticas para detectar conteúdo gerado por IA e autenticar conteúdo oficial” e observa que “agências federais utilizarão essas ferramentas para tornar fácil para os americanos saberem que as comunicações que recebem de seu governo são autênticas — e dar exemplo para o setor privado e governos ao redor do mundo”.
De forma crucial, a ordem executiva não exige que os players da indústria ou agências governamentais usem essa tecnologia.
Mas embora os especialistas geralmente tenham se mostrado encorajados pelas disposições em torno de padrões, marca d’água e rotulagem de conteúdo, a marca d’água em particular não é provável que resolva todos os nossos problemas. Pesquisadores descobriram que a técnica é vulnerável a manipulações, o que pode causar resultados falsos positivos e falsos negativos.
Soheil Feizi, da Universidade de Maryland, conduziu dois estudos sobre tecnologias de marca d’água e as considerou “pouco confiáveis”. Ele afirma que o risco de resultados falsos positivos e negativos é tão extenso que as marcas d’água fornecem “basicamente zero informação”.
“Imagine se houver um tweet ou um texto com uma marca d’água oficial oculta da Casa Branca, mas esse tweet foi realmente escrito por adversários”, alerta Feizi. “Isso pode causar mais problemas do que resolver qualquer um dos problemas atuais.”
Além disso, sua pesquisa descobriu que as tecnologias de marca d’água invisíveis e à prova de adulteração são teoricamente “impossíveis”, embora ele não tenha estudado a eficácia das técnicas de autenticação de conteúdo.
Perguntei à C2PA como tem sido o trabalho com o governo federal até agora. Mounir Ibrahim, o copresidente da equipe de assuntos governamentais, disse em um e-mail que o grupo tem estado em “contato regular” com agências federais, incluindo o Conselho de Segurança Nacional e a Casa Branca.
Em outro e-mail, um porta-voz disse que a C2PA espera que a ação da Casa Branca traga uma maior conscientização e adoção de suas credenciais de conteúdo. O porta-voz não revelou quaisquer planos em relação ao uso do protocolo por agências federais, mas disse: “a C2PA e as credenciais de conteúdo estão prontas para serem adotadas hoje — e incentivamos todos a se aproximarem e se envolverem. Estamos prontos para educar e ajudar qualquer agência a começar a testar e adotar.”
O que estou lendo…
- No turbilhão de ações de políticas de IA, a cúpula de segurança de IA do Reino Unido também gerou muita repercussão. Eu realmente apreciei este artigo, do Washington Post, sobre exatamente o que as discussões envolveram. Também achei útil esta história sobre o impacto da cúpula.
- Este artigo da Wired fala sobre uma empresa de IA com a qual a ONU está trabalhando para simular a crise israelense-palestina. Eu escrevi um pouco sobre tecnologia de previsão de conflitos antes, e será interessante acompanhar esse espaço no futuro, embora eu deva dizer que estou cética.
- Fiquei envolvida nesta história de como a pequena ilha do Pacífico de Tokelau, que foi o último lugar na Terra a ser conectado ao telefone, se tornou um foco de crimes cibernéticos.
MIT Technology Review
