Boa parte das decisões de adoção de IA parte de uma aposta implícita: a de que o algoritmo trará ao negócio um julgamento depurado das fraquezas humanas. A evidência empírica recente tem cobrado caro por essa aposta.
Pense num comitê que aprova um limite de crédito porque o modelo recomendou, sem que ninguém pergunte por que o endereço do cliente pesou mais do que a renda. O erro, se houver, não terá sido de cálculo — terá sido da pergunta que ninguém fez. É essa intuição que organiza a teoria erotética da razão, formulada por Koralus e Mascarenhas, que descreve o raciocínio como um processo de levantar questões e respondê-las com a maior rapidez possível. Nessa moldura, o erro cognitivo raramente nasce do abandono da lógica; nasce da pergunta que deixou de ser feita. Concluímos precipitadamente quando encerramos a investigação antes da hora.
Ao aplicar essa lente aos LLMs, Koralus e Wang-Maścianica chegaram a um resultado incômodo: submetidos a dezenas de problemas clássicos de inferência, GPT-3, GPT-3.5 e GPT-4 convergiram para o julgamento humano geração a geração — tanto no que ele tem de bom quanto no que tem de ruim. A taxa de respostas falaciosas tipicamente humanas quase dobrou entre a primeira e a última geração testada, de 18% para 34%. Um estudo de continuidade, de 2025, ampliou o teste para 38 modelos de diferentes desenvolvedores e confirmou que o padrão não é peculiaridade de uma família de modelos: quanto mais sofisticado o modelo, maior a propensão a errar de modo humano — um fenômeno de escala inversa. Se acertos e erros humanos derivam dos mesmos mecanismos de raciocínio, um modelo que imita nosso bom senso incorpora, inevitavelmente, a arquitetura dos nossos deslizes.
O agravante organizacional é a autonomia — tema inevitável agora que se inaugura a era dos agentes de IA. A escala de seis níveis descrita no relatório “The Agentic State”, vision paper lançado na Tallinn Digital Summit de 2025 com base na taxonomia de Bornet e colaboradores (2025), mostra empresas e governos migrando para agentes que planejam, executam e ajustam estratégias sob supervisão humana cada vez mais escassa. Um analista que salta para a conclusão errada compromete uma decisão; um agente de Nível 4 (“semi-autonomous agent”) que comete a mesma falácia compromete milhares de contratos, processos ou decisões antes que alguém perceba. O espelho, quando ganha mãos, replica o defeito em velocidade de máquina — e o prejuízo recai sobre a própria organização que o implantou.
2. Opacidade, a falácia da transparência e a pergunta sem resposta
Diante desse quadro, a reação instintiva das organizações é reforçar a supervisão humana. Mas supervisionar pressupõe compreender, e aqui reside um obstáculo que a discussão gerencial sobre IA costuma subestimar: Boa parte dos sistemas mais capazes opera como caixa-preta. O supervisor enxerga o que entra e o que sai, mas não o percurso entre um ponto e outro. Nessas condições, corremos o risco de a supervisão humana virar mero ritual formal, que empresta a autoridade humana a decisões cuja lógica ninguém consegue reconstruir.
É para esse problema que existe o campo da “Explainable AI”. A XAI reúne técnicas destinadas a caracterizar como um sistema chega aos seus resultados, seu impacto esperado e seus possíveis vieses — seja pela construção de modelos interpretáveis desde a origem (as chamadas “caixas brancas”), seja por métodos de pós-explicação aplicados a modelos complexos (caso de ferramentas como LIME, que reconstrói localmente o comportamento do classificador; DeepLIFT, que rastreia a contribuição de cada unidade de uma rede neural; e SHAP, que traduz visualmente o peso de cada variável na decisão). Bem empregada, a XAI vai além de identificar a causa de um resultado: permite examinar o caminho pelo qual o sistema chegou — ou chegará — a ele.
Há, porém, armadilhas também aqui. A primeira é o que a pesquisadora Isabela Ferrari, em estudo sobre accountability de algoritmos, nomeou como falácia da transparência: confundir acesso com compreensão. Publicar o código-fonte ou despejar logs sobre o supervisor humano não explica nada a quem não tem condições de interpretá-los. A prestação de contas efetiva depende de compreensibilidade, não de mera disponibilidade.
A segunda é o “trade-off” entre explicabilidade e acurácia, muito difundido por empresas de tecnologia. Argumenta-se que tornar um modelo inteligível pode exigir simplificações que reduzem sua precisão, e que há sistemas altamente precisos que permanecem humanamente incompreensíveis. Esse dilema não deve ser tratado como limitação técnica a simplesmente aceitar, e sim como decisão de governança a tomar dentro das organizações. Regulações setoriais já exigem transparência na inteligência artificial, embora muitas empresas ainda tenham dificuldades em implementá-la. Contudo, em domínios de alto risco, abrir mão de uma pequena margem de acurácia em prol da auditabilidade costuma ser a escolha mais racional. Esse raciocínio reflete o debate sobre autonomia: um agente de Nível 3 (“fluxos de trabalho agentificados” ou agentic workflows), por ser totalmente auditável, frequentemente é mais valioso do que um agente de Nível 4, que pode apresentar comportamentos imprevisíveis.
3. A leitura erotética da XAI — a arte de perguntar aplicada às máquinas
É neste ponto que os dois fios do argumento se cruzam de maneira, acreditamos, pouco difundida no debate corporativo. Se a teoria erotética — a moldura, já apresentada, que descreve o raciocínio como um processo de perguntar e responder — está certa e raciocinar é levantar perguntas, então toda explicação é, em essência, a resposta a uma pergunta — e a qualidade de uma explicação se mede pela pergunta que ela é capaz de satisfazer.
Um mapa de relevância de variáveis responde a “o que pesou nesta decisão?”. Uma explicação contrafactual responde a “o que precisaria mudar para o resultado ser outro?”. Um gráfico SHAP responde a “quanto cada fator contribuiu?”. Vista por essa lente, a XAI é acessório de conformidade e, ao mesmo tempo, a infraestrutura que torna a máquina interrogável.
Essa releitura tem duas consequências práticas. A primeira: um sistema opaco é, eroteticamente, um interlocutor que se recusa a responder — e uma organização que delega decisões críticas a quem não responde institucionaliza justamente o salto para conclusões que a pesquisa cognitiva identificou como raiz do erro. A opacidade não é neutra: pela forma como o sistema foi construído, ela pode suprimir as perguntas que separariam o julgamento precipitado — de máquina ou humano — do julgamento examinado.
A segunda: a explicação deve ser desenhada para a pergunta certa do interlocutor certo. As diretrizes europeias para uma IA de confiança (Trustworthy AI) já apontavam que a explicação de um sistema de alto impacto deve ser oportuna e adequada à parte interessada — usuário leigo, gestor, cliente ou profissional de TI. Traduzido para o vocabulário erotético: não existe explicação universal porque não existe pergunta universal. O gestor de risco, o cliente afetado e o auditor levantam questões distintas, e um programa de XAI maduro mapeia essas perguntas antes de escolher suas ferramentas. Explicar não é exibir as entranhas do modelo; é responder ao que cada stakeholder precisa perguntar.
4. Literacia em IA como competência interrogativa
Se a XAI é a metade técnica da equação, a literacia — ou letramento — em IA é a metade humana, e uma reforça a outra. Long e Magerko definem a literacia como o conjunto de competências que habilita pessoas a avaliar criticamente, comunicar-se e colaborar com sistemas de IA. Relidas sob o prisma deste artigo, essas competências revelam-se competências interrogativas.
Compreender forças e fraquezas da IA é saber quando perguntar: distinguir os problemas em que a máquina merece confiança daqueles em que ela tende a reproduzir nossas falácias, e calibrar o teto de autonomia de acordo. Interpretar dados criticamente é saber o que perguntar: reconhecer que resultados carregam as marcas das bases de treinamento e que nenhuma saída dispensa exame. E assumir o papel humano na IA é identificar quem responde no fim — a aprovação definitiva, o crivo ético e o direcionamento do ajuste dos sistemas permanecem responsabilidades que nenhum agente absorve.
A essas três dimensões a pesquisa sobre “Trustworthy AI” acrescenta uma quarta, decisiva: a capacidade de contestar. Kaminski e Urban demonstram que o direito de questionar decisões automatizadas só funciona quando combina procedimentos claros com fundamentos substantivos — contestar exige compreender o que se contesta. E há um alerta técnico que o mundo corporativo ainda não internalizou: sistemas de aprendizado de máquina que não forem concebidos, desde a origem, para serem explicáveis e contestáveis podem se tornar tecnicamente impossíveis de contestar depois de implantados. A contestabilidade se projeta desde o início — em um modelo by design. Uma empresa que compra ou constrói agentes sem exigir XAI renuncia, em silêncio, à possibilidade futura de discordar deles.
No Brasil, esse alerta tem endereço. A LGPD já assegura ao titular o direito de pedir a revisão de decisões tomadas unicamente por tratamento automatizado — um direito de contestar que antecede a era dos agentes. Mas a lei nasceu capenga para o problema que agora se agrava: a exigência de que essa revisão fosse feita por uma pessoa natural foi vetada em 2019. No limite, uma máquina pode revisar a decisão de outra máquina. O direito de discordar permaneceu no papel; a garantia de que alguém compreensível responderia por ele, não. Contra um sistema opaco, esse direito é uma pergunta dirigida a uma parede — a falácia da transparência convertida em norma: acesso formal a uma revisão que ninguém consegue interpretar nem, ao final, atribuir a um responsável.
Em resumo: sem XAI, a literacia treina interrogadores diante de uma testemunha muda — as perguntas certas são feitas, mas não há a quem dirigi-las. Sem literacia, a XAI produz dashboards que ninguém sabe ler. Por isso o teto de autonomia concedido a um agente precisa ser indexado, ao mesmo tempo, ao grau de explicabilidade que o sistema oferece e ao grau de literacia de quem o supervisiona. Autonomia alta, com explicação pobre e supervisor iletrado, é a receita exata do espelho autônomo descontrolado.
5. Do espelho autônomo ao espelho interrogável
O debate corporativo sobre IA continuará dominado por capacidade, custo, eficiência e velocidade. Este artigo insiste em outro critério de compra e de design: a interrogabilidade. E há uma janela brasileira que se fecha depressa. O Marco Legal da IA (PL 2338/2023) foi aprovado no Senado em dezembro de 2024, mas segue sem votação no plenário da Câmara — ainda não é lei. Enquanto isso, a ANPD já colocou seu sandbox regulatório de IA em testagem supervisionada, iniciada em fevereiro de 2026. O descompasso é a regra: a tecnologia agêntica avança em meses; a lei, em anos.
Para quem decide, a consequência é prática. A exigência de interrogabilidade não chegará pronta, pela via legislativa, a tempo de proteger os contratos que se assinam hoje. Ela precisa entrar antes — na cláusula de aquisição, no requisito de projeto, no critério de homologação do fornecedor. Quem compra ou constrói agentes sem exigir explicabilidade e contestabilidade desde a origem pode descobrir, tarde demais, que o sistema se tornou incontestável por construção.
A máquina seguirá nos devolvendo nossa imagem, com as inclinações que preferiríamos não ver — isso a pesquisa cognitiva já estabeleceu. O que permanece em aberto é se esse espelho será mudo ou responsivo: se refletirá nossas falácias em silêncio e em escala, ou se poderá ser posto a responder por suas conclusões diante de pessoas treinadas para exigi-lo.
A organização socrática de que as empresas precisam não se constrói apenas com cultura de questionamento, nem apenas com ferramentas de explicabilidade. Constrói-se no encontro das duas: pessoas letradas o bastante para formular as perguntas que a pressa organizacional tende a suprimir, diante de sistemas transparentes o bastante para respondê-las. Sócrates precisava de interlocutores dispostos ao diálogo; nossos agentes autônomos precisam ser projetados para ele. A literacia em IA fornece a arte de perguntar. A XAI garante que haja resposta.
Ricardo Marcelo Cavallo e Maria Clara Seixas
