Jacob Coxon tem medo. E talvez devêssemos estar também. Durante três anos, ele esteve do lado de dentro das maiores empresas do nosso tempo. Trabalhou na OpenAI e depois na Anthropic, dois dos laboratórios que disputam a corrida pela Inteligência Artificial Geral (AGI). Um dia, decidiu levantar e sair pela porta da frente. Saiu do trabalho e entrou no X/Twitter.
Coxon escreveu que as pessoas que constroem essas máquinas acreditam sinceramente que elas podem representar uma ameaça à humanidade. “Essas empresas estão jogando com as nossas vidas”, postou. Ele teme a chamada melhoria recursiva, quando as IAs começam a se aprimorar por conta própria sem precisar de nenhum humano no processo. Máquinas ajudando a construir máquinas, numa velocidade que talvez nos leve à extinção. Um cenário assustador, se ele estiver certo.
Mas há gente bastante qualificada, convencida de que Coxon está falando besteira. Yann LeCun, cientista francês, vencedor do Turing Award e um dos pesquisadores responsáveis pelos avanços da aprendizado profundo, rejeita a ideia de que os grandes modelos de linguagem estejam a poucos passos de uma inteligência comparável à humana. E ele não está sozinho. Melanie Mitchell, cientista da computação do Santa Fe Institute e uma das principais estudiosas dos limites da IA, lembra que nem sequer existe uma definição consensual de AGI. “Se não sabemos exatamente o que ela é, fica difícil medir a distância que nos separa dela”, escreveu em seu blog.
No Brasil, o neurocientista Miguel Nicolelis, conhecido por suas interfaces entre cérebro e máquinas, vai mais longe. Ele chama os modelos atuais de “papagaios eletrônicos estatísticos”, capazes de produzir resultados impressionantes sem compreender o significado do que dizem. Para Nicolelis, a IA tem o nome pejorativo de NINA. Nem inteligente, nem artificial.
Se formos pelo lado dos acadêmicos, Coxon está exagerando e esqueceremos seu nome em pouco mais de uma semana. O problema é que ele não está sozinho. Existem grandes nomes com a mesma preocupação. Alguns já fazem esse alerta há quase uma década.
É o caso de Dario Amodei, CEO da Anthropic. Neste fim de semana, ele pediu publicamente que as empresas reduzam a velocidade com que a indústria torna seus modelos mais capazes. Ele vem falando repetidamente dos episódios recentes em que agentes de IA apresentaram comportamentos inesperados e predatórios durante testes. Amodei é acusado de ser um dos “homens-bomba” a que me refiro no título. Está construindo uma arma e gritando para o mundo que ela é perigosa demais.
O curioso é que o episódio revelado esta semana fez o que ninguém tinha conseguido até então. Uniu desafetos que não sentariam à mesma mesa por nada. Sam Altman, CEO da OpenAI, concordou que é preciso discutir uma desaceleração. Demis Hassabis, CEO do Google DeepMind, defende a supervisão dos modelos mais avançados. Elon Musk, fundador da xAI, escreveu: “Dario tem razão”.
Mas aparece uma pergunta incômoda: se os homens que constroem essas máquinas estão realmente assustados, por que simplesmente não param?
A profecia quer se realizar
Essas big techs disputam bilhões de dólares para se manterem na liderança tecnológica. Algumas caminham para fazer seu IPO em breve e abrir suas ações para participação pública. Para os governos, precisam mostrar que seu produto é indispensável. Para os investidores, precisam demonstrar que a sua criação será poderosa demais. Quanto maior a promessa, maior o investimento. Quanto maior o perigo, maior a importância de quem afirma saber controlá-lo. Os fabricantes serão os profetas de uma profecia autorrealizável.
Falando em profecia, Carissa Véliz, filósofa da Universidade de Oxford especializada em ética da Inteligência Artificial, lembra em seu novo livro, “Prophecy”, que previsões também podem ser ferramentas de construção de poder. Quando alguém como Altman anuncia como será o futuro da IA, talvez não esteja apenas descrevendo o que virá. Está ajudando a criar as bases do que será construído.
Mas só chegamos até metade da história. É daqui pra frente que os donos das IAs perdem o controle das suas criações. Eles descobriram que, a partir de determinado momento, o destino da sua tecnologia pode parar nas mãos de alguém mais poderoso do que eles. Entram no tabuleiro presidentes, militares, interesses nacionais e uma carta capaz de atropelar qualquer jogada: a segurança nacional.
As guerras mudaram. Aos olhos do nosso tempo, o conflito entre Rússia e Ucrânia parece coisa do século passado. Tanques, drones e soldados vão sumindo aos poucos. A disputa agora passa por chips, dados, processadores e Inteligência Artificial. Trump está em guerra com a China. Ele rebateu os pedidos para desacelerar o desenvolvimento da Inteligência Artificial com gritos. Bastou apenas uma frase para ele mostrar quem manda: “Whoever wins AI wins/Quem vencer na Inteligência Artificial, vence”.
Amodei quer diminuir a velocidade. Altman, defender regulação. Hassabis, pedir supervisão. Mas Trump olha para Xi Jinping e faz uma pergunta muito mais simples: “E se nós frearmos e eles não?”. Pequim pode perguntar exatamente a mesma coisa. Todos sabem onde está o freio. Ninguém quer pisar nele primeiro.
Talvez Coxon esteja errado. Talvez a superinteligência ainda esteja muito distante. Talvez nunca chegue da maneira como seus “homens-bomba” anunciam. Talvez exista uma boa dose de marketing nessa mistura de fascínio e apocalipse que cerca a Inteligência Artificial. Mas talvez não.
E é justamente esse “talvez” que torna perigoso deixar a decisão apenas nas mãos de quem cria essas máquinas. Uma tecnologia que afeta bilhões de pessoas não pode ter seu destino definido em salas acarpetadas na Califórnia, por especuladores em Wall Street ou um homem laranja no Salão Oval. Cientistas precisam estar nessa conversa. Legisladores também. Empresas, universidades, trabalhadores, artistas, professores. Pessoas comuns. Eu, você, nós.
Esta história começou com um homem acendendo um fósforo. Talvez seja hora de todos decidirmos qual deve ser a distância entre o pavio e a bomba.
Como nasceu esta coluna:
A coluna nasceu pela lembrança óbvia do filme Oppenheimer, de Christopher Nolan. Em dado momento, o criador da bomba atômica diz ter “sangue nas mãos”. Diante das milhares de mortes causadas em Hiroshima e Nagasaki, declarou: “Me tornei o destruidor de mundos”. Dois meses depois, Oppenheimer renunciaria ao cargo. Entre 1947 e 1952, se tornou assessor da Comissão de Energia Atômica dos Estados Unidos, onde se converteu em pacifista e passou a defender o controle internacional para o uso da tecnologia nuclear.
Alexandre Roldão
