No GTC 2026, a NVIDIA apresentou o token como o produto das fábricas de IA. Muitos executivos que decidem sobre a tecnologia não sabem o que ele é, e isso tem custo.
Em março deste ano, o CEO da NVIDIA, Jensen Huang, abriu o GTC 2026 com uma ideia simples: os data centers estão se transformando em grandes fábricas que produzem um único produto, o token.
Durante mais de duas horas, Huang falou de fábricas de IA, de custo por token e de eficiência energética. Para a plateia, era a nova economia da inteligência artificial sendo desenhada no palco. Depois desse keynote, conversando com alguns executivos que me acompanhavam no evento, fiz uma pergunta despretensiosa: vocês sabem o que é um token? E um parâmetro? Silêncio.
Confiança alta, conhecimento baixo
Apesar de a IA já fazer parte do nosso cotidiano, em tarefas ordinárias como buscar uma informação relevante ou escrever um simples e-mail, toda a teoria por trás dos “modelos” ainda é desconhecida por grande parte das pessoas. Mas o mais preocupante é não saber o que não se sabe, principalmente entre tomadores de decisão.
Num levantamento do Boston Consulting Group (BCG) divulgado em maio de 2026, com 351 CEOs e 274 conselheiros de empresas com receita anual de ao menos US$ 100 milhões, 75% dos conselheiros avaliaram seu conhecimento de IA como igual ou superior ao dos pares. Já 63% dos CEOs disseram que os conselhos superestimam o que a IA é capaz de fazer.
É essa combinação que preocupa: pouca familiaridade com os fundamentos e muita convicção sobre o resultado. Quem não sabe como a tecnologia funciona pode oscilar entre dois erros caros, seja o entusiasmo que aprova qualquer piloto, seja o ceticismo que trava a inovação.
Token: a unidade de custo
Um token é um pedaço de texto, às vezes uma palavra inteira, às vezes um fragmento dela. É assim que o modelo generativo lê o que recebe e escreve o que responde. E são justamente os tokens que definem os custos, pois os principais serviços de IA cobram por um conjunto de tokens de entrada e de saída.
Pode até parecer apenas um detalhe técnico, mas isso muda a análise de viabilidade dos projetos. Um piloto com 50 usuários bem sucedido custa pouco e impressiona, mas quando escala para 10 mil funcionários, todos os dias, o consumo se multiplica na mesma proporção. Também se o conjunto de informações que a solução processa é grande, mais tokens são consumidos. Agentes de IA, a grande aposta do momento, consomem muito mais que um chat simples. Eles raciocinam em várias etapas, consultam sistemas e revisam o próprio trabalho antes de responder. Cada etapa gasta tokens.
E há ainda um detalhe que poucos executivos brasileiros conhecem. Como a maioria dos modelos foi treinada sobretudo em inglês, o mesmo conteúdo em outros idiomas costuma ser dividido em mais tokens. Um estudo da Universidade de Oxford apresentado na NeurIPS 2023, a principal conferência acadêmica de aprendizado de máquina, mostrou diferenças de até 15 vezes entre idiomas nos casos extremos. Para o português, a diferença é bem menor, mas existe: num preprint (estudo ainda sem revisão por pares) sobre modelos para a língua, o tokenizador de um modelo aberto popular precisou de mais de 50% de tokens a mais para o mesmo texto. É um custo que não aparece no plano de negócios de quem usou comparativos internacionais.
É fato que o custo por token tende a cair com o tempo e com o avanço das tecnologias de processamento, mas os modelos também se tornam mais complexos, com raciocínio em etapas, verificações e escala. É uma corrida sem fim. Segundo a Epoch AI, instituto independente de pesquisa, o preço para atingir um mesmo nível de desempenho caiu entre 9 e 900 vezes por ano, conforme a tarefa, nos três anos anteriores a março de 2025. Isso estimula a utilização de soluções mais complexas.
A pergunta que um executivo deveria saber fazer: quantos tokens este caso de uso vai consumir por mês, em produção, e como esse custo cresce com a adoção?
Parâmetro: maior nem sempre é melhor
O volume de tokens não é a única variável da conta. O tamanho do modelo que processa cada um deles também pesa, e esse tamanho é medido em parâmetros. Parâmetros são os valores numéricos que o modelo ajusta durante o treinamento. Imagine um sistema de equações gigantesco, em que cada coeficiente de cada equação é um “parâmetro”. Eles funcionam como o “conhecimento” armazenado. Um modelo com bilhões de parâmetros consegue capturar padrões mais sutis, mas também exige mais memória, mais energia e mais hardware para rodar.
Quem não entende esse conceito tende a escolher o modelo pelo tamanho, como quem compra o carro mais potente para ir à padaria. Na prática, muitos problemas corporativos, como classificar chamados, extrair dados de documentos ou responder a perguntas sobre uma base interna, são bem resolvidos por modelos menores. Eles são mais baratos, mais rápidos e, principalmente, podem rodar dentro da própria empresa.
E esse último ponto pesa no Brasil. Rodar um modelo localmente pode simplificar a conformidade com a Lei Geral de Proteção de Dados (LGPD), reduzir a dependência de serviços estrangeiros e manter dados sensíveis sob controle. É uma decisão estratégica, não técnica, mas só consegue tomá-la bem quem sabe que o tamanho do modelo é uma variável de escolha.
A pergunta certa aqui é: “Qual é o menor modelo que resolve este problema com a qualidade necessária?”
Quando a IA erra com confiança
O último conceito que quero explorar é como o modelo efetivamente funciona. Um modelo de linguagem não consulta uma base de fatos. Ele prevê, token a token, qual é a continuação mais provável do texto. Na maior parte do tempo, a continuação provável é também a correta. Mas nem sempre. Quando o modelo não tem a informação, ele não necessariamente diz “não sei”. Ele pode produzir uma resposta plausível, fluente e errada. É o que se convencionou chamar de alucinação da IA.
Para funcionar bem, o modelo precisa de contexto, ou seja, de um conjunto de informações que ele consegue considerar de uma vez: as instruções, os documentos fornecidos, o histórico da conversa. Dar ao modelo o contexto certo, como os documentos da empresa ou os dados do cliente, pode reduzir muito os erros. Mas contexto também é token, e token é custo.
Entender isso muda o desenho dos processos. A IA é excelente para preparar, resumir, sugerir e acelerar. Em decisões com impacto financeiro, jurídico ou sobre pessoas, ela precisa de verificação humana ou de mecanismos de checagem. Não por desconfiança genérica, mas sim por se conhecer a natureza da tecnologia.
Tomadores de decisão precisam considerar o que acontece no processo quando o modelo erra com confiança.
A chave, como sempre, é fazer as perguntas certas
Obviamente, não estou defendendo que CEOs e conselheiros aprendam a treinar modelos. Mas é importante que se conheça como essa tecnologia funciona. É como em finanças: um diretor não precisa fazer a contabilidade, mas precisa ler um balanço. O mercado já percebeu isso. Na mesma pesquisa do BCG, cerca de 80% dos CEOs e conselheiros disseram que futuros membros de conselho deveriam demonstrar entendimento de como a IA pode transformar seu setor.
Na prática, letramento mínimo em IA significa conseguir fazer perguntas como estas, e entender as respostas:
Quanto este caso de uso vai custar em produção, e não só no piloto?
Por que este modelo, e não um menor?
Onde os dados ficam e quem tem acesso a eles?
Como medimos a qualidade das respostas, e o que acontece quando a IA erra?
São perguntas simples, mas só quem conhece as variáveis consegue fazê-las. E quem não conhece acaba delegando decisões importantes ao fornecedor ou ao time técnico.
Na GTC, Jensen Huang descreveu um futuro em que toda empresa vai produzir ou consumir tokens em escala industrial. Se essa visão se confirmar, e parece que vai, a pergunta que fiz na saída do keynote deixa de ser curiosidade e vira questão de governança.
Nenhum conselho aprovaria a construção de uma fábrica sem saber o que ela produz, quanto custa cada unidade e qual é a taxa de defeito. Com a IA, é exatamente isso que muitos estão fazendo. Saber o que é um token não transforma ninguém em engenheiro. Mas é o mínimo para não decidir no escuro.
Fontes
Split Decisions: The BCG CEOs and Boards Survey, BCG
Language Model Tokenizers Introduce Unfairness Between Languages, Universidade de Oxford, NeurIPS
Valerio Mateus
