Os campos de batalha na Ucrânia estão repletos de destroços de drones, que agora estão firmemente estabelecidos como uma arma crucial da guerra moderna. Mas, por trás de todos esses destroços, há uma nova mina de ouro para o setor de defesa. Os dados gerados pelos drones sobreviverão por muito tempo às guerras nas quais eles são usados para combater, tornando-se cada vez mais parte da arquitetura de IA que molda até mesmo a vida civil.
A cada voo, sistemas não tripulados coletam milhares de pontos de dados, de imagens e vídeos a comandos dos controladores. Em conjunto, esses registros mostram como uma máquina e uma pessoa responderam a circunstâncias em constante mudança.
A Ucrânia começou agora a transformar essa experiência em um recurso. Seu Ministério da Defesa anunciou em janeiro que disponibilizaria milhões de pontos de dados coletados durante dezenas de milhares de voos de drones tanto para empresas contratadas pelo setor militar quanto para empresas comerciais e, desde então, mais de 100 empresas e o governo do Reino Unido obtiveram acesso.
Para um país em guerra, essa é uma maneira rápida de atrair financiamento e estabelecer parcerias. Mas essa iniciativa transforma a linha de frente em um local ativo de treinamento de modelos, aproveitando-se do modo como o caos da guerra cria condições que as empresas de IA têm dificuldade de reproduzir por conta própria.
É provável que outros países e campos de batalha sigam o exemplo da Ucrânia, mas a responsabilidade pela regulamentação desse novo setor não pode recair exclusivamente sobre um país que luta por sua sobrevivência. Esse vácuo jurídico precisa ser preenchido conjuntamente pelos países e pelas empresas envolvidos no desenvolvimento desse setor.
Crescimento explosivo
Os campos de batalha da Ucrânia não são os primeiros a produzir registros usados para treinar e desenvolver modelos: drones americanos sobre a Síria e o Iêmen coletaram dados que contribuíram para a primeira geração de equipamentos militares semiautônomos no fim da década de 2010.
A diferença agora é que o acesso a esses dados está sendo usado para desenvolver um ecossistema mais amplo. E o valor financeiro para as empresas de defesa é imenso: dados de campos de batalha oferecem grandes volumes de experiência de máquinas coletados em condições que nenhum laboratório consegue reproduzir.
Isso acontece porque os dados mais valiosos para o treinamento de modelos de IA vêm das exceções: o momento em que a visibilidade desaparece, um sinal sofre interferência ou um operador humano improvisa. Empresas de IA passam anos e gastam enormes quantias tentando capturar um número suficiente desses momentos para tornar seus modelos mais robustos. Mas a guerra os produz em uma frequência que testes controlados não conseguem igualar.
Esse terreno em constante transformação é o que torna os dados de drones valiosos muito além do campo de batalha. Um drone comercial usado para entregas ou sensoriamento remoto talvez nunca enfrente fogo de artilharia, mas ainda assim precisa operar com informações incompletas em um mundo no qual as pessoas se comportam de maneira imprevisível. A guerra comprime esse mesmo problema em um período muito mais curto.
Processados e comparados com registros do que seu operador estava fazendo, esses dados transformam registros operacionais em conjuntos de treinamento. O combate se torna um ativo comercial.
Muitos conflitos já testemunharam esse ciclo de treinamento, à medida que imagens captadas por drones alimentam gerações posteriores de tecnologia militar, e esse mercado tende a crescer. A Enabled Intelligence, empresa americana especializada em processar dados para torná-los utilizáveis no treinamento de IA, afirma que já disponibilizou mais de meio milhão de horas de imagens de drones da Ucrânia para alimentar a próxima geração de modelos, divulgando possíveis usos tanto em sistemas militares quanto comerciais.
Fechando o ciclo dos dados
Muitos dos drones que hoje definem nossa era moderna de guerra começaram como tecnologia civil. Mas, recentemente, eles foram impulsionados por novos sistemas de IA disponíveis comercialmente, que permitem que máquinas baratas operem de forma autônoma, individualmente ou em enxames, conforme o ambiente ao redor muda. Cada voo, então, cria um registro daquilo que o sistema encontrou.
Os dados resultantes são cruciais. Os ambientes controlados de laboratório normalmente desenvolvidos para treinar esses sistemas autônomos podem simular falhas, mas não se comparam às condições reais de um campo de batalha, com riscos igualmente reais. Programas de inteligência militar mantêm há quase uma década dados gerados por sistemas carregados de sensores, como os drones Predator e Reaper, por meio de iniciativas como o Project Maven, mas o acesso permaneceu inteiramente restrito ao universo da defesa. Os dados gerados estavam disponíveis apenas por canais restritos e sigilosos, com o único objetivo de desenvolver novos sistemas de armas que retornariam ao mesmo aparato militar que havia produzido os dados originalmente. Essa experiência agora está sendo compartilhada com uma rede de desenvolvimento muito mais ampla.
Agora, o ciclo se fecha. Tecnologias comerciais adaptadas para o campo de batalha estão gerando dados que podem retornar às indústrias das quais se originaram, tornando-se parte da infraestrutura de dados da qual governos e o setor privado dependem.
Drones que foram treinados no espaço aéreo da Ucrânia, sujeito a interferências de sinal, estão agora sendo empregados no setor agrícola para ajudar agricultores a mapear e inspecionar suas propriedades em locais onde não há o sinal de telefonia celular necessário para gerações anteriores de tecnologia.
É provável que outros países sigam a Ucrânia na venda de seus dados de campos de batalha, e não estamos preparados para o novo mercado que isso criará.
Agentes mal-intencionados poderiam adquirir esses dados, mas controles de compra já reduzem esse risco. Agentes de inteligência examinam a infraestrutura de potenciais clientes em busca de maneiras pelas quais os dados poderiam chegar a inimigos ou agentes maliciosos.
Os dados de treinamento, porém, criam um novo problema de rastreamento. Enquanto a circulação de conjuntos de dados comerciais pode ser acompanhada quando informações de contato inseridas propositalmente aparecem duas etapas depois do comprador original, a procedência dos dados de treinamento de IA desaparece de uma maneira que está incorporada à própria tecnologia. Outro risco é que esse uso dos dados crie uma economia extrativista na qual países mais ricos e distantes do perigo se beneficiem da ameaça mortal enfrentada por Estados na linha de frente, potencialmente criando um incentivo de mercado para que a guerra continue como uma fonte inesgotável de ouro digital.
Uma nova fronteira repleta de riscos
As leis existentes regulam a forma como os exércitos podem conduzir uma guerra. Mas dizem quase nada sobre o que acontece quando registros criados em combate são dissociados de seu contexto operacional, transformados em dados e licenciados para empresas cujos produtos circulam muito além dos locais onde foram produzidos.
As responsabilidades das empresas que projetam esses sistemas continuam indefinidas. A Ucrânia está criando controles de acesso, mencionados no acordo de IA entre Reino Unido e Ucrânia assinado recentemente, mas nenhum governo está trabalhando ativamente para regulamentar o que acontece quando os dados são incorporados a um modelo e retornam aos mercados civis.
Esses registros contêm vidas humanas. Os soldados e civis que aparecem neles não concordaram em se tornar material de treinamento para produtos que poderão ser vendidos anos depois. Mas dados de sensores, imagens de câmeras e coordenadas de civis fugindo de um ataque de drone agora constituem o tipo de dado que influencia a maneira como máquinas futuras tomarão decisões.
Esse é um problema de consentimento. As pessoas presentes nos dados, sejam elas alvos, operadores ou civis que estavam nas proximidades, tornam-se parte do material de treinamento. As capacidades autônomas baseadas nesses dados não param nos limites do campo de batalha. Essas capacidades migram para outros sistemas militares ou comerciais, como veículos de entrega ou máquinas agrícolas. Erros e pressupostos incorporados aos dados acompanham o modelo mesmo depois que ele passa a fazer parte da vida civil.
Dados de campos de batalha não deveriam ser tratados como material comercial comum. Mas atualmente não existe nenhuma agência ou órgão regulador com jurisdição sobre essa questão. Enquanto isso, governos que fornecem acesso a dados de defesa deveriam tratá-los como tratariam uma transferência controlada de armamentos, registrando sua origem, licenciando seus usuários e restringindo seu compartilhamento posterior. A Ucrânia começou a lidar com essa questão. Seu programa Avengers Labs permite que empresas treinem modelos com dados de campos de batalha sem lhes conceder acesso direto a bancos de dados sensíveis. Ainda assim, isso reduz apenas uma parte do problema.
Os governos deveriam exigir a divulgação de informações quando modelos treinados com material de guerra forem posteriormente incorporados a produtos civis. O objetivo dessa regulamentação deveria ser tornar visível o caminho do combate ao comércio.
O que essas empresas realmente estão explorando é a experiência. E soldados não podem consentir que sua experiência seja usada dessa maneira, como dados de treinamento que proporcionam vantagem aos modelos e, em última análise, sustentam um produto utilizado muito longe do local onde a guerra foi travada.
A questão já não é apenas o que as empresas de tecnologia podem vender para uso em guerras. É o que elas podem extrair delas.
Para nos proteger dos excessos desse novo setor, precisamos de um sistema regulatório que acompanhe os dados de campos de batalha por onde quer que eles passem, do combate ao modelo e do modelo ao produto comercial.
Cory Alpert
