Uma inteligência artificial pode ajudar a escolher quem será chamado para uma entrevista de emprego, indicar se uma pessoa receberá crédito ou orientar o atendimento em um serviço público. Se ela errar, porém, quem perceberá primeiro? O candidato excluído sem explicação? A família que recebeu uma orientação médica convincente, mas incorreta? O cliente vítima de uma fraude criada com voz e imagem falsas?
Há também medos menos cotidianos, mas potencialmente graves. Um sistema pode facilitar um ataque a hospitais ou serviços essenciais? Pode ensinar alguém a contornar mecanismos de segurança ou a produzir uma substância perigosa? As perguntas não significam que todo modelo fará isso. Elas mostram por que promessas das empresas e regras escritas não bastam: alguém precisa testar como esses sistemas se comportam antes e depois de chegarem ao público.
O problema fica ainda mais próximo no Brasil. Um modelo que funciona bem em inglês pode entender mal uma pergunta em português, reproduzir preconceitos presentes nos dados ou falhar diante de expressões e situações locais. Quando o poder público não consegue testar essas limitações, depende das perguntas, dos dados e dos resultados escolhidos pelos próprios desenvolvedores.
Quando os governos decidiram testar
Foi para reduzir essa dependência que governos criaram instituições especializadas em avaliar os sistemas de IA mais avançados. Reino Unido, Estados Unidos e Japão formaram o grupo descrito em 2024 como a primeira onda dos institutos de segurança de IA: órgãos técnicos governamentais, voltados à segurança de sistemas avançados e sem poder regulatório próprio.[1]
Um de seus métodos é o red-teaming, ou teste adversarial. Imagine um chatbot programado para não ensinar golpes digitais. Uma equipe assume o papel de um fraudador e tenta contornar a proteção: muda as palavras, divide o pedido em etapas aparentemente inocentes, escreve em outro idioma ou conecta o modelo a ferramentas externas. O objetivo não é confirmar que o sistema funciona em condições ideais, mas procurar caminhos de falha que um teste comum talvez não revele.
O red-teaming não produz um selo geral de segurança: examina cenários escolhidos pelos avaliadores. Outros testes comparam desempenho, resistência a ataques ou possíveis efeitos discriminatórios. Ainda assim, o laboratório pode não prever o uso por milhões de pessoas. O International AI Safety Report 2026 chama essa diferença de “lacuna de avaliação”.[2]
Uma conversa internacional sem o Brasil
A cooperação ganhou forma na reunião de Bletchley Park, em novembro de 2023. O Brasil estava entre os 28 países que reconheceram a necessidade de colaboração internacional diante dos riscos e das oportunidades dos modelos mais avançados.[3] Um ano depois, porém, não apareceu entre os dez integrantes iniciais da Rede Internacional de Institutos de Segurança de IA.[4]
Essa diferença importa. Bletchley foi um compromisso diplomático. A rede internacional criou uma rotina técnica: seus integrantes comparam métodos, realizam exercícios conjuntos e discutem como interpretar testes. Quem participa ajuda a decidir quais riscos serão medidos, em quais idiomas e com quais critérios. Um teste desenhado apenas para outros contextos pode deixar problemas brasileiros invisíveis.
Essa agenda não ficou restrita à prevenção de catástrofes. Em maio de 2024, a Declaração de Seul tratou segurança, inovação e inclusão como objetivos ligados. Depois, os mandatos nacionais tomaram direções diferentes. Em 2025, o Reino Unido trocou safety por security no nome de seu instituto e reforçou o foco em segurança nacional, ataques cibernéticos e usos criminosos. Nos Estados Unidos, a reorganização passou a combinar testes, padrões voluntários, segurança e competição tecnológica.[10] Há convergência nas ferramentas de avaliação, mas divergência nas finalidades políticas atribuídas a elas.
Quem participa do desenvolvimento desses métodos ajuda a definir quais comportamentos serão observados e que evidências serão consideradas relevantes. Isso não significa que os institutos possam, sozinhos, criar normas obrigatórias para o mundo. Significa que seus trabalhos podem influenciar padrões técnicos, compras públicas, compromissos empresariais e decisões regulatórias.
Os acordos com empresas mostram outra vantagem institucional. Em 2024, o instituto americano obteve da OpenAI e da Anthropic acesso a novos modelos antes e depois do lançamento. Em 2026, seu sucessor anunciou avaliações anteriores à implantação com Google DeepMind, Microsoft e xAI.[5] O acesso não é irrestrito, mas permite investigar além da versão pública do produto.
Essa cooperação exige independência. O avaliador público precisa explicar as limitações do acesso e divulgar conclusões desfavoráveis, para que o teste não funcione como validação institucional da empresa.
O problema brasileiro é diferente
Reino Unido e Estados Unidos estão próximos das empresas e da infraestrutura que produzem os modelos mais avançados. O Brasil depende de tecnologias e serviços digitais fornecidos por poucos agentes globais, embora possua conhecimento científico distribuído por universidades, laboratórios e órgãos públicos.[6] Por isso, copiar um instituto estrangeiro não basta. O país precisa conectar especialistas, criar testes em português e examinar como os sistemas funcionam em serviços e condições locais.
Nosso país não precisa treinar o maior modelo do mundo para produzir evidências relevantes. Pode mostrar falhas em português, resultados diferentes entre grupos ou inadequação a um serviço público.
Esse conhecimento dá conteúdo técnico à negociação internacional.
O que a INSOED pode fazer
É nesse cenário que surge a Rede Nacional de Institutos de Segurança, Oportunidades e Apoio Técnico à Economia Digital, a INSOED. Ela está prevista no substitutivo apresentado em agosto de 2026 ao Projeto de Lei 5.960 de 2025, ainda em tramitação na Câmara dos Deputados.[6]
A proposta não cria uma agência com poder para multar, autorizar ou proibir sistemas. Ela permite reunir universidades, centros de pesquisa, laboratórios e organizações públicas ou privadas sem fins lucrativos. A rede teria natureza técnica, colaborativa e consultiva. Poderia desenvolver métodos, realizar avaliações, apoiar políticas públicas, formar profissionais e promover cooperação científica nacional e internacional. O Inmetro, órgão responsável por medições, ensaios e padrões de qualidade, exerceria a coordenação técnica.[6]
A escolha do Inmetro tem uma lógica. Avaliar IA exige definir o que será medido, comparar resultados e informar a margem de incerteza. Nos Estados Unidos, a estrutura federal de avaliação está vinculada ao instituto nacional de padrões e tecnologia. Na França, o laboratório nacional de metrologia e ensaios integra o instituto de segurança de IA.[5][7]
A analogia com a qualidade industrial, porém, tem limites. Um modelo pode mudar após uma atualização, responder de forma diferente conforme o contexto e ganhar novas capacidades quando é conectado à internet ou a outras ferramentas. Testar IA não equivale a verificar um eletrodoméstico. A experiência do Inmetro precisa ser combinada com conhecimentos de aprendizado de máquina, cibersegurança, ciências sociais e setores como saúde, finanças e administração pública.
O formato distribuído não é uma invenção brasileira. A Índia adotou um modelo que conecta governo, universidades, empresas e startups. A França reuniu quatro instituições existentes, inclusive seu laboratório nacional de metrologia, sem criar uma nova pessoa jurídica.[7] A vantagem desse desenho para o Brasil é aproveitar competências que já estão espalhadas pelo país. O risco é criar uma rede no papel sem equipe, recursos ou responsabilidades claras.
A INSOED também pode preencher uma lacuna de representação internacional. Ao institucionalizar a colaboração entre múltiplos atores, o Brasil ganha um interlocutor técnico identificável para cooperar com institutos estrangeiros e apresentar avaliações produzidas no país. A aprovação da lei não concede automaticamente uma vaga em cada fórum. Cada organização possui regras próprias. Mas cria uma estrutura permanente para que o país reivindique e ocupe esse espaço com contribuições verificáveis, em vez de participar apenas como receptor de métodos definidos no exterior.
Um assento exige capacidade
Para funcionar, a rede precisará de especialistas, acesso aos modelos, dados adequados ao contexto brasileiro e capacidade computacional. O projeto de um novo supercomputador conduzido pelo Laboratório Nacional de Computação Científica pode ampliar a infraestrutura disponível no país, mas o anúncio não estabelece que a INSOED terá acesso ao equipamento.[8]
O acesso aos próprios sistemas é igualmente decisivo. Pesquisadores qualificados e boas máquinas não permitem examinar profundamente um modelo fechado sem documentação, tempo e cooperação do desenvolvedor. Modelos abertos e serviços já disponíveis também podem ser testados, mas respondem a perguntas diferentes e não substituem avaliações anteriores ao lançamento.
Também será necessário financiamento contínuo. O Canadá destinou inicialmente 50 milhões de dólares canadenses ao seu instituto por cinco anos.[9] O número não serve como orçamento automático para o Brasil. Ele mostra que avaliações repetidas, bases de teste protegidas e equipes atualizadas não se sustentam apenas com projetos temporários.
Por fim, a rede precisará publicar métodos, limites e conflitos de interesse. O próprio substitutivo prevê transparência, independência técnica, prevenção de conflitos e divulgação das fontes de financiamento.[6] Esses princípios terão de aparecer na seleção dos participantes, nos acordos com empresas e na liberdade para divulgar resultados desfavoráveis.
Se adquirir capacidade real, a INSOED produzirá três vantagens. A primeira é evidência própria sobre idiomas, usuários e serviços brasileiros. A segunda é participação na elaboração de padrões técnicos, que começam como referências voluntárias, mas podem orientar contratos, compras públicas e regulamentos. A terceira é poder de negociação: uma rede com pesquisadores, laboratórios e projetos claros pode oferecer avaliações conjuntas e conhecimento local ao buscar acesso a modelos e cooperação estrangeira.
Essa é uma forma concreta de autonomia. Ela não significa controlar toda a cadeia tecnológica ou desenvolver sozinho os modelos mais avançados. Significa conseguir testar afirmações, interpretar resultados e decidir sem depender integralmente dos diagnósticos produzidos por empresas ou outros governos.
Ter “assento” nas discussões internacionais sobre segurança da IA significa mais do que receber um convite. Significa chegar com evidências próprias, contestar testes inadequados ao país e propor alternativas que outros participantes possam reproduzir. O sucesso da INSOED deverá ser medido por aquilo que o Brasil conseguir testar e pelas decisões que conseguir influenciar a partir desses testes.
Fontes
1. ARAUJO, Renan; FORT, Kristina; GUEST, Oliver. Understanding the First Wave of AI Safety Institutes. Institute for AI Policy and Strategy, outubro de 2024. Disponível em: https://arxiv.org/abs/2410.09219. Acesso em 20 set.2026.
2. International AI Safety Report 2026. Extended Summary for Policymakers, 3 de fevereiro de 2026. Avaliação científica produzida por mais de 100 especialistas independentes; a síntese remete ao relatório integral para as referências. Disponível em: https://internationalaisafetyreport.org/publication/2026-report-extended-summary-policymakers. Acesso em 18 set. 2026.
3. Governo do Reino Unido. Comunicado e lista dos participantes da Declaração de Bletchley, 1º de novembro de 2023. Fonte governamental primária para participantes e compromissos anunciados. Disponível em: https://www.gov.uk/government/news/countries-agree-to-safe-and-responsible-development-of-frontier-ai-in-landmark-bletchley-declaration. Acesso em 19 set. 2026.
4. NIST. Encontro inaugural da International Network of AI Safety Institutes, 20 de novembro de 2024. Disponível em: https://www.gov.uk/government/publications/seoul-declaration-for-safe-innovative-and-inclusive-ai-ai-seoul-summit-2024 e https://www.nist.gov/news-events/news/2024/11/fact-sheet-us-department-commerce-us-department-state-launch-international. Acesso em 19 set.2026.
5. NIST. Acordos com Anthropic e OpenAI, 29 de agosto de 2024; CAISI. Acordos com Google DeepMind, Microsoft e xAI, 5 de maio de 2026. Disponível em: https://www.nist.gov/news-events/news/2024/08/us-ai-safety-institute-signs-agreements-regarding-ai-safety-research e https://content.govdelivery.com/accounts/USNIST/bulletins/415cadf. Acesso em 18 set.2026.
6. Câmara dos Deputados. Parecer do relator e substitutivo ao PL 5.960/2025, apresentado em 6 de agosto de 2026. Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=3169080&filename=Tramitacao-21-PL-5960-2025. Acesso em 20 set.2026.
7. Governo da Índia. Anúncio do IndiaAI Safety Institute, 30 de janeiro de 2025; Governo da França. Apresentação do INESIA, 3 de fevereiro de 2025. Disponível em: https://www.pib.gov.in/PressReleasePage.aspx?PRID=2097709&lang=2®=3 e https://www.economie.gouv.fr/actualites/la-france-se-dote-dun-institut-national-pour-levaluation-et-la-securite-de-lintelligence. Acesso em 20 set.2026.
8. Laboratório Nacional de Computação Científica. Comunicado sobre a implantação de novo supercomputador, 21 de agosto de 2026. Disponível em https://www.gov.br/lncc/pt-br/assuntos/noticias/ultimas-noticias-1/lncc-conduz-implantacao-de-supercomputador-de-inteligencia-artificial-que-ampliara-a-capacidade-computacional-do-brasil. Acesso em 19 set.2026.
9. Governo do Canadá. Lançamento do Canadian Artificial Intelligence Safety Institute, 12 de novembro de 2024. Disponível em: https://www.canada.ca/en/innovation-science-economic-development/news/2024/11/canada-launches-canadian-artificial-intelligence-safety-institute.html. Acesso em 19 set.2026.
10. Governo do Reino Unido. Declaração de Seul, 21 de maio de 2024; mudança do nome para AI Security Institute, 14 de fevereiro de 2025. Fontes governamentais primárias para os objetivos declarados em Seul e a mudança de ênfase britânica. Disponível em: https://www.gov.uk/government/publications/seoul-declaration-for-safe-innovative-and-inclusive-ai-ai-seoul-summit-2024 e https://www.gov.uk/government/news/tackling-ai-security-risks-to-unleash-growth-and-deliver-plan-for-change. Acesso em 20 de set.2026.
Stefani Juliana Vogel e Fabio Elissandro Cassimiro Ramos
