Após semanas de especulação frenética, a Anthropic apresentou o prospecto de sua oferta pública inicial de ações (IPO). O documento de 335 páginas, das quais cerca de cem são dedicadas aos riscos, detalha a visão singular da empresa sobre a tecnologia que está desenvolvendo e as maneiras pelas quais acredita que ela mudará o mundo.
Mas a Anthropic vem aprimorando sua habilidade de contar histórias há anos. Na verdade, sua comunicação pública é uma aula de como dominar a narrativa.
No início deste mês, Jack Clark, cofundador e responsável pelas políticas da empresa, discursou na reunião do FMI em Bangkok e anunciou aos economistas, banqueiros e legisladores presentes que a singularidade já chegou.
Apresentada pelo escritor de ficção científica e futurista Vernor Vinge há cerca de 40 anos, e há muito debatida nos recantos mais nerds da internet, a singularidade seria o ponto em que a tecnologia se torna tão avançada que supera as capacidades de seus criadores.
Segundo essa ideia, os seres humanos ficam para trás, sem conseguir competir com os frutos de sua própria criação, nem sequer compreendê-los.
E aquele mundo fictício que muitos de nós imaginamos desde crianças? Ao que parece, já estamos vivendo nele: “Acredito que, neste ano, obtivemos evidências convincentes de que ela já começou”, disse Clark ao público.
A empresa conta uma história vívida (e, em muitos aspectos, assustadora) sobre um futuro que apresenta como inevitável, mas que ainda não aconteceu, muitas vezes se apropriando de temas já bastante explorados pela ficção científica. Apresenta sua tecnologia como misteriosa e perigosa e insiste que é a única empresa confiável o suficiente para domá-la. (Que investidor não gostaria de fazer parte disso?)
Vejamos outro exemplo. No ano passado, Chris Olah, outro cofundador da Anthropic, foi convidado a discursar no Vaticano, onde contou ao papa Leão XIV e a outros estudiosos e autoridades religiosas o que sua empresa estava descobrindo sobre a tecnologia. “Vou ser sincero: continuamos encontrando coisas misteriosas, até perturbadoras”, disse. “Encontramos evidências de introspecção. Encontramos estados internos que, em termos funcionais, espelham alegria, satisfação, medo, pesar e inquietação.”
Pouco importa que muitos pesquisadores zombariam de uma sugestão tão explícita de que o software da Anthropic tem experiências internas semelhantes às humanas. Quando tão pouco parece certo, o que ela (e as demais empresas de IA de fronteira) diz é agarrado com a mesma força com que alguém se apega aos destroços de um navio que afunda.
Não estou dizendo que eles estejam necessariamente errados sobre tudo isso. (Essa discussão fica para outro dia.) Mas, em um mundo em que ninguém sabe o que está por vir, empresas como a Anthropic podem preencher esse vazio.
Vale parar um momento para perguntar: o que é a Anthropic? Pode parecer uma pergunta básica de um programa de perguntas e respostas para toda a família, mas respondê-la é muito mais difícil do que se imagina.
Essa pergunta não sai da minha cabeça desde que li, na semana passada, uma troca de mensagens no X iniciada por Nathan Calvin, diretor de estratégia da Encode AI, uma organização sediada em Washington, DC, que defende a regulamentação da IA. Calvin estava insatisfeito com a legislação que a Anthropic propôs em uma minuta de projeto de lei distribuída em segredo a legisladores dos Estados Unidos (e que depois vazou).
A Anthropic quer ser vista como a mocinha da história, disse Calvin. Mas por que deveríamos confiar nela? “O que é a Anthropic?”, perguntou.
Eis uma resposta: é uma empresa cuja oferta pública inicial de ações a avalia em mais de 1,5 trilhão de dólares, proporcionando uma imensa riqueza a seus cofundadores, entre eles Clark e Olah.
Mas a Anthropic sempre insistiu que é mais do que isso. Como observou Calvin, ela poderia ser vista como uma organização de segurança em IA dedicada a desenvolver uma tecnologia poderosa, confiável e (quase) livre de riscos. Ou poderia ser vista como um grupo de pessoas obstinadas em criar uma tecnologia com capacidades sobre-humanas antes de qualquer outra pessoa, talvez porque acreditem ser as mais responsáveis para fazer isso, ou talvez por causa de seus egos.
Na verdade, é tudo isso. Como afirmou o CEO Dario Amodei em uma resposta à publicação de Calvin: “Nossa estratégia sempre foi o que chamo de ‘corrida ao topo’: ao mostrar como é possível desenvolver a tecnologia de forma responsável, podemos elevar o padrão de todo o setor. As forças que impulsionam essa corrida são muito mais eficazes se a empresa que as coloca em prática está na fronteira tecnológica; essa é uma lição que aprendi repetidas vezes. E, ao considerar essa estratégia como um todo, tenho orgulho do nosso histórico e o defendo.”
Amodei fala como se tivesse tudo resolvido, mas desempenhar vários papéis é difícil. Há enormes tensões entre as prioridades de uma organização de segurança em IA e as
de uma megacorporação movida pelo lucro, por exemplo. (Amodei admite em sua publicação que cometeu erros.)
Em última análise, as histórias que a Anthropic conta a si mesma deveriam nos ajudar a entender que ela nos conta. Deveriam nos ajudar a avaliar até que ponto podemos confiar em sua autorregulação ou se deveríamos obrigá-la a dar a avaliadores externos de segurança acesso a seus modelos nos nossos termos, e não nos dela. Deveriam nos ajudar a lhe dar o benefício da dúvida (ou não) quando vem à tona uma proposta de lei que parece atender aos seus próprios interesses.
Mas acho que essas histórias revelam uma Hidra de muitas cabeças. A Anthropic representa coisas diferentes para pessoas diferentes, e não tenho certeza de que isso a torne mais confiável. Em muitos aspectos, uma boa e velha empresa de tecnologia, sem a encenação de ficção científica, sem o misticismo, seria muito mais fácil de decifrar.
Will Douglas Heaven
