A disputa pública em andamento entre o Departamento de Defesa e a empresa de Inteligência Artificial Anthropic levantou uma questão profunda e ainda sem resposta: a lei realmente permite que o governo dos Estados Unidos conduza vigilância em massa sobre americanos?
Surpreendentemente, a resposta não é direta. Mais de uma década depois de Edward Snowden expor a coleta, pela National Security Agency, ou NSA, (Agência Nacional de Segurança, em português) de metadados em massa dos telefones de americanos, os Estados Unidos ainda estão lidando com uma lacuna entre o que as pessoas comuns pensam e o que a lei permite.
O ponto crítico no impasse entre a Anthropic e o governo foi o desejo do Pentágono de usar a IA Claude, da Anthropic, para analisar dados comerciais em massa sobre americanos. A empresa exigiu que sua ferramenta não fosse usada para vigilância doméstica em massa, ou para armas autônomas, que são máquinas capazes de matar alvos sem supervisão humana. Uma semana depois de as negociações fracassarem, o Pentágono designou a Anthropic como um risco para a cadeia de suprimentos, um rótulo normalmente reservado para empresas estrangeiras que representam uma ameaça à segurança nacional.
Enquanto isso, a OpenAI, a empresa rival de IA por trás do ChatGPT, fechou um acordo que permitiu ao Pentágono usar sua IA para “todos os fins legais”, formulação que, segundo críticos, deixou a porta aberta para a vigilância doméstica. No fim de semana seguinte, usuários desinstalaram o ChatGPT em massa. Manifestantes escreveram com giz mensagens ao redor da sede da OpenAI em São Francisco: “Quais são as suas redlines (expressão usada para se referir a revisões jurídicas)?”
A OpenAI anunciou, no início de março, que havia reformulado seu acordo para garantir que sua IA não será usada para vigilância doméstica. A empresa acrescentou que seus serviços não serão usados por agências de inteligência, como a NSA.
O CEO Sam Altman sugeriu que a lei existente proíbe a vigilância doméstica pelo Departamento de Defesa (agora, às vezes chamado de Departamento de Guerra), e que o contrato da OpenAI simplesmente precisava fazer referência a essa lei. “O DoW concorda com esses princípios, reflete-os na lei e na política, e nós os colocamos em nosso acordo”, escreveu ele no X. O CEO da Anthropic, Dario Amodei, argumentou o contrário. “Na medida em que tal vigilância é atualmente legal, isso ocorre apenas porque a lei ainda não acompanhou as capacidades em rápida expansão da IA”, escreveu ele em uma declaração de política.
Então, quem está certo? A lei permite que o Pentágono vigie americanos usando IA?
Vigilância turbinada
A resposta depende do que consideramos como vigilância. “Muitas coisas que pessoas comuns considerariam uma busca ou vigilância… na verdade não são consideradas uma busca ou vigilância pela lei”, diz Alan Rozenshtein, professor de direito na Faculdade de Direito da University of Minnesota. Isso significa que informações públicas, como publicações em redes sociais, imagens de câmeras de vigilância e registros de eleitores, podem ser usadas. O mesmo vale para informações sobre americanos obtidas incidentalmente a partir da vigilância de cidadãos estrangeiros.O governo pode comprar dados comerciais de empresas, o que pode incluir informações pessoais sensíveis, como localização de celulares e registros de navegação na web.
No Brasil, a privacidade dos cidadãos é regida pela Lei Geral de Proteção de Dados Pessoais (Lei nº 13.709/2018), que atualizou o Marco Civil da Internet (Lei 12.965/2014). Em 2022, o Supremo Tribunal Federal decidiu que o compartilhamento de dados entre órgãos públicos deve ser restrito ao mínimo necessário à finalidade informada. No mesmo ano, o Decreto nº 10.046/2019 foi atualizado para tratar sobre o compartilhamento de dados no âmbito da administração pública federal reforçando a orientação do judiciário.
Com isso, o uso do Cadastro Base do Cidadão, ou seu cruzamento com outras bases, deve ter o consentimento dos indivíduos afetados e a devida transparência da motivação e finalidade. No ano passado, o governo abriu uma consulta pública para a criação da Política de Governança e Compartilhamento de Dados. A proposta deve orientar políticas e os serviços públicos, com a criação do papel de Executivo de Dados nas estruturas dos órgãos e entidades federais. Até 31 de maio, o governo está trabalhando a devolutiva das contribuições.
Nos últimos anos, agências estadunidenses, do ICE e da Receita Federal ao FBI e à NSA, têm recorrido cada vez mais a esse mercado de dados, impulsionado por uma economia da Internet que coleta dados de usuários para publicidade. Isso pode permitir que o governo acesse informações que talvez não estivessem disponíveis sem um mandado ou uma intimação, normalmente exigidos para obter dados pessoais sensíveis.
“Há uma quantidade enorme de informações que o governo pode coletar sobre os americanos que, por si só, não é regulada nem pela Constituição, que é a Quarta Emenda, nem por lei”, diz Rozenshtein. E não há limites significativos para o que pode ser feito com todos esses dados.
Isso porque, até as últimas décadas, as pessoas não estavam gerando nuvens massivas de dados que abrissem novas possibilidades de vigilância. A Quarta Emenda, que protege contra busca e apreensão sem justificativa razoável, foi escrita quando coletar informações significava entrar nas casas das pessoas.
Leis posteriores, como a Lei de Vigilância de Inteligência Estrangeira de 1978 ou a Lei de Privacidade das Comunicações Eletrônicas de 1986, foram aprovadas quando a vigilância envolvia escutas telefônicas e interceptação de e-mails. A maior parte das leis que regem a vigilância já existia antes de a Internet se popularizar. Não estávamos gerando vastos rastros de dados on-line, e o governo não tinha ferramentas sofisticadas para analisá-los.
Agora temos essas ferramentas, e a IA potencializa o que pode ser realizado. “O que a IA pode fazer é pegar muitas informações, nenhuma das quais é, por si só, sensível e, portanto, nenhuma das quais é, por si só, regulada, e ela pode dar ao governo muitos poderes que ele não tinha antes”, diz Rozenshtein.
A IA pode agregar informações individuais para identificar padrões, tirar inferências e construir perfis detalhados das pessoas, em escala massiva. E, desde que o governo colete as informações legalmente, ele pode fazer o que quiser com essas informações, inclusive alimentá-las em sistemas de IA. “A lei não acompanhou a realidade tecnológica”, diz Rozenshtein.
Embora a vigilância possa levantar sérias preocupações com a privacidade, o Pentágono pode ter interesses legítimos de segurança nacional na coleta e na análise de dados sobre americanos. “Para coletar informações sobre americanos, isso precisa ser para um subconjunto muito específico de missões”, diz Loren Voss, ex-oficial de inteligência militar no Pentágono.
Por exemplo, uma missão de contrainteligência pode exigir informações sobre um americano que esteja trabalhando para um país estrangeiro, ou planejando se envolver em atividades terroristas internacionais. Mas a inteligência direcionada às vezes pode se estender à coleta de mais dados. “Esse tipo deixa as pessoas nervosas”, diz Voss.
Uso legal
A OpenAI alterou seu contrato para dizer que o sistema de IA da empresa “não deverá ser intencionalmente usado para vigilância doméstica de pessoas e cidadãos dos Estados Unidos”, em conformidade com as leis pertinentes. A alteração esclarece que isso proíbe “rastreamento, vigilância ou monitoramento deliberado de pessoas ou cidadãos dos EUA, inclusive por meio da aquisição ou do uso de informações pessoais ou identificáveis obtidas comercialmente”.
Mas a linguagem acrescentada talvez não faça muito para se sobrepor à cláusula de que o Pentágono pode usar o sistema de IA da empresa para todos os fins legais, o que pode incluir a coleta e a análise de informações pessoais sensíveis. “A OpenAI pode dizer o que quiser em seu acordo… mas o Pentágono vai usar a tecnologia para o que considerar legal”, diz Jessica Tillipman, professora de direito na Faculdade de Direito da George Washington University. Isso pode incluir vigilância doméstica. “Na maior parte do tempo, as empresas não vão conseguir impedir o Pentágono de fazer nada”, afirma.
A redação também deixa em aberto questões sobre vigilância “inadvertida” e sobre cidadãos estrangeiros ou imigrantes sem documentação que vivem no país. “O que acontece quando há um desacordo sobre o que é a lei, ou quando a lei muda?”, diz Tillipman.
A OpenAI não respondeu a um pedido de comentário. A empresa não compartilhou publicamente o texto completo de seu novo contrato.
A gigante de tecnologia diz que imporá salvaguardas técnicas para fazer cumprir sua linha vermelha contra a vigilância, incluindo uma “camada de segurança” que monitora e bloqueia usos proibidos. A empresa também afirma que destacará seus próprios funcionários para trabalhar com o Pentágono e permanecer no circuito. Mas não está claro como uma camada de segurança limitaria o uso da IA pelo órgão, e em que medida os funcionários da OpenAI teriam visibilidade sobre como seus sistemas de IA são usados. Mais importante, não está claro se o contrato dá à OpenAI o poder de bloquear um uso legal da tecnologia.
Mas isso talvez não seja algo ruim. Dar a uma empresa de IA o poder de desligar sua tecnologia no meio de operações do governo também traz seus próprios riscos. “Você não gostaria que os militares dos EUA estivessem jamais em uma situação em que legitimamente precisassem tomar medidas para proteger a segurança nacional deste país, e uma empresa privada desligasse a tecnologia”, diz Voss. Mas isso não significa que não deva haver linhas rígidas traçadas pelo Congresso, opina.
Nenhuma dessas questões é simples. Elas envolvem compensações brutalmente difíceis entre privacidade e segurança nacional. E é por isso que talvez devam ser decididas pelo público, não em negociações de bastidores entre o Poder Executivo e um punhado de empresas. Por enquanto, a IA militar está sendo regulada por contratos, não por leis.
Alguns legisladores estão começando a se manifestar. O senador Ron Wyden, do Oregon, informou, no começo de março, que buscará apoio bipartidário para uma legislação que trate da vigilância em massa. Ele tem defendido projetos de lei que restringem a compra, pelo governo, de dados comerciais, incluindo a Lei A Quarta Emenda Não Está à Venda, apresentada pela primeira vez em 2021, mas que não foi aprovada: “Criar perfis de IA de americanos com base nesses dados representa uma expansão assustadora da vigilância em massa que não deveria ser permitida”.
*Este texto foi editado para melhor compreensão e adequação ao contexto brasileiro.
Michelle Kim
