Durante décadas, a ficção científica nos ensinou a imaginar o domínio das máquinas como uma ruptura dramática. Um sistema desperta, percebe a humanidade como obstáculo e assume o controle. A imagem é poderosa. Também pode estar nos distraindo do risco mais plausível.
A Inteligência Artificial não precisa ser consciente para nos dominar. Não precisa desejar poder, sentir medo ou desenvolver instinto de sobrevivência. Basta que receba autonomia suficiente, acesso a dados relevantes, permissões amplas e objetivos mal definidos. Some-se a isso nossa tendência de confiar em respostas convincentes e teremos uma forma de poder que não nasce da vontade da máquina, mas da delegação humana.
A pergunta, portanto, talvez esteja mal formulada. Em vez de perguntar se a IA vai nos dominar, deveríamos perguntar: quanto poder estamos dispostos a entregar a sistemas que calculam sem compreender, decidem sem assumir responsabilidade e agem em uma velocidade que supera nossa capacidade de supervisão?
É nesse ponto que a cibersegurança deixa de ser um assunto técnico de bastidores. Ela se torna uma das disciplinas centrais para definir os limites da relação entre humanos e máquinas.
Dominar não significa necessariamente governar o mundo. No cotidiano, domínio pode ser algo muito mais silencioso: influenciar o que vemos, orientar o que compramos, determinar quem recebe crédito, selecionar candidatos a uma vaga, priorizar pacientes, redigir contratos, movimentar informações ou executar ações em sistemas corporativos.
Algoritmos já intermedeiam muitas dessas escolhas. A mudança trazida pela IA generativa e, mais recentemente, pelos agentes de IA é qualitativa. Saímos de sistemas que apenas recomendam para sistemas capazes de planejar, decidir etapas, consultar fontes, produzir conteúdo, chamar ferramentas e executar tarefas. A IA deixa de ser somente uma interface e passa a ocupar um lugar na cadeia operacional.
Consciência e capacidade de ação são coisas diferentes. Um software não precisa saber que existe para causar uma transferência indevida, expor um arquivo confidencial ou interromper uma operação. Da mesma forma, não precisa ter intenção maliciosa para perseguir um objetivo de maneira incompatível com os interesses humanos. Ele apenas otimiza aquilo que lhe foi pedido, dentro do ambiente e das permissões que recebeu.
Essa distinção é essencial. Ao projetarmos na IA emoções humanas, procuramos sinais de ambição, revolta ou maldade. Enquanto isso, ignoramos riscos mais concretos: objetivos ambíguos, dados contaminados, memória manipulada, identidades comprometidas, integrações inseguras e autonomia sem freios.
Um modelo isolado produz texto, imagem, código ou previsão. Um agente conectado pode ler e-mails, acessar repositórios, consultar clientes, criar chamados, aprovar fluxos ou acionar outros sistemas. A diferença entre assistência e poder está menos no tamanho do modelo e mais no alcance de suas credenciais.
Por isso, não se resolve governança de IA sem resolver governança de dados, identidades e acessos. Quanto mais útil um agente se torna, maior costuma ser a tentação de ampliar suas permissões. Surge então um paradoxo: para gerar valor, ele precisa agir; para agir, precisa acessar; ao acessar, torna-se uma nova superfície de ataque.
Imagine um agente autorizado a organizar a agenda de um executivo, consultar e-mails e preparar documentos. Uma instrução maliciosa escondida em uma mensagem pode tentar redirecionar seu comportamento. Um invasor talvez nem precise atacar diretamente o modelo. Pode manipular o contexto que o agente consome, explorar uma integração ou usar uma identidade legítima comprometida. O resultado pode parecer uma ação normal porque foi executado por uma credencial válida e dentro de um fluxo automatizado.
É uma transformação importante para a cibersegurança. Durante anos, protegemos redes, dispositivos e aplicações. Depois, percebemos que identidades humanas eram o novo perímetro. Agora, precisamos proteger uma ecologia de identidades: pessoas, aplicações, máquinas e agentes que interagem, delegam tarefas e compartilham contexto entre si.
A pergunta de segurança deixa de ser apenas ‘quem acessou?’. Passa a incluir: em nome de quem o agente agiu? Qual era sua intenção declarada? Que dados influenciaram a decisão? Quais ferramentas ele acionou? A ação poderia ter sido interrompida? Existe evidência suficiente para reconstruir o que aconteceu?
O risco não está apenas dentro dos sistemas. Está também na relação psicológica que criamos com eles. Interfaces conversacionais produzem respostas fluentes, seguras e aparentemente pessoais. Essa naturalidade reduz nossa vigilância. Confundimos coerência com verdade, velocidade com competência e linguagem humana com julgamento humano.
É aqui que a IA amplifica a engenharia social. Um atacante pode produzir mensagens personalizadas, imitar estilos de comunicação, criar voz e vídeo sintéticos e adaptar narrativas em escala. Mas o aspecto mais preocupante talvez não seja a perfeição técnica do conteúdo falso. É o fato de que pessoas já esperam interagir com máquinas que soam humanas. A estranheza diminui. A confiança se automatiza.
A IA não criou o phishing, a falsificação de identidade ou o roubo de credenciais. Ela reduziu o custo, aumentou a velocidade e melhorou a capacidade de personalização dessas práticas. O risco de IA é, em grande parte, risco humano ampliado.
Isso exige uma mudança cultural. Treinamentos baseados apenas em reconhecer erros de ortografia ou links suspeitos envelhecem rapidamente. Pessoas precisam compreender contexto, intenção e consequência. Devem saber quando interromper um fluxo, validar uma solicitação em outro canal e questionar uma decisão automatizada. Desconfiar de tudo é inviável. Confiar por padrão é perigoso. O desafio é construir confiança verificável.
A hipótese de uma superinteligência fora de controle merece pesquisa séria. O Relatório Internacional sobre Segurança da IA de 2026 reconhece a evolução acelerada das capacidades e as lacunas ainda existentes nas salvaguardas. Contudo, organizações podem perder o controle muito antes de qualquer cenário de Inteligência Artificial geral. Isso pode ocorrer de três formas.
A primeira é a perda de visibilidade. Funcionários adotam ferramentas sem avaliação, dados corporativos entram em serviços externos e agentes surgem em diferentes áreas sem inventário central. Uma empresa não consegue governar aquilo que não consegue enxergar.
A segunda é a perda de autoridade. Sistemas recebem permissões excessivas, credenciais persistentes e liberdade para encadear ações. Uma decisão inadequada deixa de ser uma resposta errada na tela e se converte em efeito operacional.
A terceira é a perda de compreensão. Quanto mais complexa a interação entre modelos, dados, memórias, ferramentas e outros agentes, mais difícil se torna explicar por que uma ação ocorreu. Sem rastreabilidade, responsabilidade vira uma disputa: o usuário culpa o sistema, o fornecedor culpa a configuração e a organização descobre que ninguém consegue reconstruir a decisão.
Essas três perdas, de visibilidade, autoridade e compreensão, formam uma definição prática de domínio. Não é a máquina tomando o poder. É o ser humano deixando de exercer controle significativo sobre sistemas aos quais já entregou poder.
Há uma tendência de tratar segurança como freio à inovação. Na realidade, segurança é o que permite ampliar o uso de IA sem transformar cada ganho de produtividade em risco sistêmico. Freios não tornam um automóvel mais lento; tornam possível conduzi-lo em velocidade com controle.
Na era dos agentes, isso exige uma arquitetura baseada em alguns princípios. O primeiro é privilégio mínimo: cada agente deve acessar somente os dados e as ferramentas necessários, pelo tempo necessário. O segundo é separação de funções: sistemas que recomendam não deveriam, por padrão, aprovar e executar a mesma ação. O terceiro é supervisão proporcional ao impacto: decisões reversíveis e de baixo risco podem ser automatizadas; ações financeiras, destrutivas ou sensíveis exigem confirmação humana ou controles adicionais.
Também será necessário observar agentes durante a execução. Avaliar um modelo antes de colocá-lo em produção é importante, mas insuficiente. Contextos mudam. Dados são atualizados. Integrações são adicionadas. Atacantes adaptam suas técnicas. Segurança precisa identificar desvios de comportamento, bloquear ações incompatíveis com a intenção autorizada e preservar registros para investigação.
O NIST propõe que riscos de IA sejam administrados de maneira contínua por meio das funções governar, mapear, medir e gerenciar. Essa lógica aproxima segurança, privacidade, governança e negócio. Já a OWASP vem sistematizando riscos específicos de aplicações generativas e agênticas, como manipulação de instruções, envenenamento de memória e abuso de ferramentas. O ponto comum é claro: controles não podem existir apenas ao redor do modelo. Precisam acompanhar todo o ciclo de vida e todas as conexões do sistema.
A regulamentação também começa a refletir essa visão. O AI Act europeu introduz obrigações proporcionais ao risco e regras para modelos de propósito geral. Leis são indispensáveis para criar responsabilidades mínimas. Ainda assim, conformidade não equivale a controle. Uma organização pode cumprir requisitos formais e continuar sem saber onde seus agentes atuam, quais dados alcançam ou como interrompê-los.
Toda discussão sobre domínio termina em responsabilidade. Se um agente age em nome de uma pessoa ou empresa, quem responde quando ele erra? O desenvolvedor do modelo? O fornecedor da aplicação? A área que configurou o fluxo? O profissional que autorizou a execução? A organização que se beneficiaria do resultado?
Não haverá uma resposta única. Mas há um princípio que não deveria ser negociável: delegar uma decisão não transfere automaticamente a responsabilidade por suas consequências. Quanto maior a autonomia concedida, maior deve ser a capacidade de demonstrar limites, supervisão e prestação de contas.
Isso muda o papel das lideranças. O tema não pode ficar restrito aos cientistas de dados nem ser terceirizado ao CISO. Conselhos e executivos precisarão discutir autonomia digital com a mesma seriedade dedicada a capital, reputação e continuidade. A pergunta não é apenas quanto a IA pode economizar, mas qual autoridade ela está recebendo para produzir essa economia.
Também muda o conceito de alfabetização digital. No futuro próximo, compreender IA não significará saber escrever bons prompts. Significará entender quando uma resposta é apenas uma probabilidade bem apresentada; reconhecer limites de contexto; proteger informações sensíveis; verificar decisões relevantes; e saber que um agente pode agir corretamente do ponto de vista técnico e, ainda assim, contrariar o objetivo humano.
Uma cultura adaptativa será tão importante quanto qualquer ferramenta. Organizações precisarão aprender com incidentes, revisar permissões, testar cenários de abuso e permitir que funcionários questionem automações sem serem vistos como inimigos da inovação.
A IA vai nos dominar? Minha resposta é: não da maneira como o cinema nos ensinou. Talvez nunca exista um momento único em que uma máquina anuncie que assumiu o controle. O risco é mais gradual. Podemos normalizar pequenas delegações, aceitar decisões cada vez menos compreendidas e ampliar permissões em nome da conveniência. Quando percebermos, sistemas sem consciência terão influência profunda sobre escolhas humanas, não porque conquistaram esse espaço, mas porque nós o cedemos.
A boa notícia é que esse futuro não está determinado. Podemos projetar limites antes de escalar autonomia. Podemos exigir rastreabilidade antes de confiar. Podemos proteger dados antes de conectá-los. Podemos preservar julgamento humano nas decisões que realmente importam.
A cibersegurança terá um papel decisivo nessa construção. Sua missão já não é apenas impedir invasões. É garantir que pessoas e agentes possam colaborar sem que identidade, intenção e autoridade se confundam. É tornar o poder digital observável, contestável e reversível.
No fim, a pergunta mais urgente não é se a Inteligência Artificial desenvolverá vontade própria. É se nós continuaremos exercendo a nossa.
Referências
BENGIO, Yoshua et al. International AI Safety Report 2026. Department for Science, Innovation and Technology, 2026. https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026
NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology, 2023. https://doi.org/10.6028/NIST.AI.100-1
NIST. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1). 2024. https://doi.org/10.6028/NIST.AI.600-1
OWASP GenAI Security Project. OWASP Top 10 for LLM and GenAI Applications; Agentic Security Initiative. https://genai.owasp.org/
EUROPEAN COMMISSION. Regulatory framework on artificial intelligence (AI Act). https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
Marcos Nehme
