Sua empresa é o conjunto de dados de treinamento de outra pessoa
Inteligência artificial

Sua empresa é o conjunto de dados de treinamento de outra pessoa

Os laboratórios de IA não conseguem proteger seus modelos, por isso estão usando pacotes de serviços para chegar ao único ativo que não podem construir: o conhecimento especializado da sua empresa.

No outono de 1848, um botânico escocês chamado Robert Fortune raspou a cabeça, costurou uma longa trança ao cabelo que restou, vestiu trajes de mandarim e viajou pelo interior da China, por regiões proibidas a estrangeiros, em uma missão para a Companhia Britânica das Índias Orientais. Sua tarefa era o que a escritora Sarah Rose chamou de o maior ato isolado de espionagem corporativa da história: roubar chá. Ao longo de três anos, ele contrabandeou cerca de 20 mil mudas para fora do país, dentro de caixas de vidro lacradas com destino à Índia.

Mini Banner - Assine a MIT Technology Review

Aqui está a parte estranha: as plantas praticamente não importavam. A maioria morreu, e a indústria de chá da Índia acabou sendo construída, de todo modo, a partir de uma variedade nativa de Assam. O que importava era aquilo que Fortune confirmou ao observar os mestres do chá trabalhando, que o chá verde e o chá preto vinham da mesma planta, separados apenas por decisões criteriosas sobre murchamento, enrolamento, oxidação e secagem, acumuladas ao longo de uma vida inteira. Então, Fortune recrutou os mestres, oito deles, e os enviou para os contrafortes do Himalaia junto com as sementes. Em menos de quatro décadas, a Índia havia substituído a China como fornecedora de chá da Grã-Bretanha, e o país que inventou o chá viu seu comércio mais valioso desaparecer. A China não perdeu o chá quando as plantas partiram. Perdeu-o quando o conhecimento foi embora.

Menciono isso porque o botânico está de volta e, desta vez, gostaria de ser adicionado aos canais do Slack da sua empresa.

Os modelos de IA de fronteira são genuinamente impressionantes e estão se tornando ainda melhores a cada mês. Mas o segredo incômodo do setor de IA é que o modelo não constitui uma barreira competitiva: a pesquisa vaza pela porta giratória dos talentos. A Grã-Bretanha do século XVIII proibiu a emigração de mecânicos do setor têxtil, e foi assim que Samuel Slater memorizou as máquinas de Arkwright e as reconstruiu de memória em Rhode Island. Hoje, pacotes de remuneração de centenas de milhões de dólares para engenheiros transportam ideias entre laboratórios com eficiência semelhante. As técnicas circulam por corredores de conferências e conversas privadas. E o próprio comportamento dos modelos pode ser submetido a engenharia reversa por qualquer pessoa com paciência e alguns registros de prompts. Os laboratórios chamam isso de “destilação”, quando fazem com eles, e de “treinamento”, quando fazem com você.

O topo do mercado sempre pagará pela fronteira. Ser o primeiro importa na descoberta de medicamentos da mesma forma que importa obter a primeira patente sobre uma composição de matéria. Importa nos setores cibernético e de defesa da mesma forma que sempre importou. Abaixo da fronteira, porém, o mercado está adquirindo uma configuração conhecida: um iPhone e um Android. De um lado, uma oferta premium e altamente integrada. Do outro, um amplo ecossistema de commodities para todos os demais.

É por isso que os laboratórios estão criando pacotes. Quando não é possível proteger o modelo, ele é soldado a tudo o que existe ao seu redor. A Microsoft executou exatamente essa estratégia na década de 1990: vinculou o Office ao Windows, acoplou o navegador ao sistema operacional e deixou que a Netscape apresentasse suas objeções ao Departamento de Justiça. No fim, o Departamento de Justiça concordou com a Netscape da forma que menos importava, de maneira conclusiva e anos depois de a empresa ter deixado de existir de forma independente.

O pacote de hoje é mais sutil. A Anthropic quer que o Claude participe das suas sessões no Cowork. A OpenAI quer o ChatGPT Work dentro dos seus fluxos de trabalho. Ambas adorariam ser marcadas e integradas às suas conversas no Slack ou no Microsoft Teams. O argumento de venda é a produtividade, e os ganhos de produtividade são muito reais. Mas observe o que o modelo passa a acompanhar: quais negócios foram aprovados e quais foram discretamente revertidos. Quais exceções receberam o aval do diretor jurídico. O que o chefe de subscrição sinaliza, embora o manual nunca mencione. Quem contraria quem e por quê.

Esses resíduos não são incidentais. Eles são a própria empresa. À medida que a IA reduz drasticamente o custo de execução do trabalho, a restrição determinante passa a ser sua verificação, e a verificação ainda depende de experiência escassa, ciclos longos de feedback e alguém disposto a se responsabilizar pelo resultado. Em uma pesquisa com meus coautores Jane Wu e Xiang Hui, chamamos essa armadilha de maldição do codificador: a especialista que registra suas decisões torna a si mesma substituível. Às vezes, vale a pena fazer essa troca, dentro da empresa, segundo os termos da empresa e com os ganhos revertidos para a empresa. O que nunca vale a pena é permitir que um terceiro faça a codificação, absorvendo a experiência acumulada dos seus principais especialistas em um modelo de uso geral que seus concorrentes podem alugar por token.

Cada disputa resolvida, cada fraude detectada e cada correção feita por um especialista constitui um precedente reutilizável, a matéria-prima do único efeito de rede que sobrevive em uma economia baseada em agentes. Os ciclos que uma empresa considera parte de sua soberania são os mesmos que os laboratórios veem como sua próxima fronteira de treinamento. Tanto a OpenAI quanto a Anthropic garantem que os dados de clientes corporativos não são usados, por padrão, para treinar seus modelos. O perigo imediato não é um assalto, ninguém precisa de trajes de mandarim. Trata-se de uma forma mais silenciosa de absorção. A promessa diz respeito ao seu conteúdo. Ainda assim, uma imagem mais sutil é formada: o que é perguntado e quando, o que é tentado novamente, o que é encaminhado a instâncias superiores e a quem. Chame isso de metadados, trata-se do contorno de como sua empresa pensa. E nenhuma cláusula revoga a gravidade: a cada mês em que o sistema opera, uma parte maior da memória institucional da sua empresa se acomoda de forma nativa na interface de outra pessoa, na camada de memória de outra pessoa, no formato de exportação de outra pessoa. E se torna mais valiosa justamente onde você não consegue levá-la consigo. Um laboratório pode cumprir todas as promessas que faz e, ainda assim, acabar detendo o mapa de como sua empresa toma decisões. Para o seu benefício, é claro.

Uma batalha está se formando, e os lados começam a se definir. Satya Nadella propôs recentemente um teste: você deveria ser capaz de substituir o modelo generalista sem perder o conhecimento do “veterano da empresa” incorporado aos seus sistemas. A Microsoft está defendendo os próprios interesses. Mas a parte desses interesses que vende picaretas e pás só lucra se você sobreviver: se um modelo de fronteira engolir o trabalho propriamente dito, a empresa que vende as ferramentas ao redor dele será desintermediada no mesmo dia que você. A Palantir fincou a mesma bandeira: sua ontologia, seus dados, seu ciclo. Espere que mais empresas façam o mesmo.

A boa notícia é que existem alternativas, e elas melhoram a cada dia. Os modelos de código aberto acompanham de perto a fronteira, e estruturas inteligentes de controle, dados de domínio específicos e avaliações privadas reduzem grande parte da diferença restante. As empresas também estão aprendendo rapidamente a trabalhar com vários modelos ao mesmo tempo, e a primeira onda está sendo liderada, sem qualquer glamour, pelo diretor financeiro, que financiou dois trimestres de tokenmaxxing entusiasmado e agora gostaria de conversar sobre custos. Direcionar as consultas premium de ontem para os modelos commoditizados e de pesos abertos de hoje é muito mais barato.

Mas a disputa pelos custos é apenas a primeira. A verdadeira batalha é pelo controle. Uma empresa que executa seus ciclos de verificação em uma infraestrutura que governa, com avaliações privadas, feedback privado e a experiência de seus especialistas codificada como sua própria fonte de verdade, acumula um ativo que nenhum concorrente pode comprar e nenhum laboratório pode transformar em commodity. Uma empresa que canaliza esses mesmos ciclos para a janela de contexto de outra pessoa está administrando o programa de estágio mais caro do mundo: treinando sua própria substituta e pagando pelo privilégio.

As empresas que compreenderem isso primeiro preservarão sua vantagem competitiva. As demais descobrirão, no momento da renovação, quanto custa alugar de volta o próprio conhecimento especializado.

Os mestres chineses do chá nunca tiveram a intenção de entregar um império. Eles estavam apenas sendo prestativos. Generosos com um visitante curioso, uma decisão criteriosa de cada vez. As mudas nunca foram o ponto central. A experiência era.

Proteja a sua.

Último vídeo

Nossos tópicos