No início de fevereiro, defensores do bem-estar animal e pesquisadores de Inteligência Artificial se reuniram descalços no Mox, um espaço de coworking descontraído em São Francisco. O pano das tendas amarelas e vermelhas ondulava sobre suas cabeças, tapetes persas cobriam o chão e luminárias de mosaico brilhavam ao lado de vasos de plantas.
Na área comum, um defensor da vida selvagem falava com entusiasmo para um grupo espalhado em pufes sobre um método de controle de natalidade para roedores que poderia controlar as populações de ratos sem a necessidade do uso de veneno. Na “Sala dos Crustáceos”, uma dúzia de pessoas sentadas em círculo debatia se a senciência, a capacidade de sentir experiências subjetivas como dor e prazer, dos insetos poderia nos dizer algo sobre a vida interior dos chatbots. Em frente à “Sala dos Bovinos” havia uma estante abarrotada de cópias do livro If Anyone Builds It, Everyone Dies (“Se alguém construir, todos morrem”, em tradução livre), de Eliezer Yudkowsky, um manifesto que argumenta que a IA poderia aniquilar a humanidade.
O evento foi organizado pela Sentient Futures, uma organização que acredita que o futuro do bem-estar animal dependerá da IA. Como muitos moradores da região da Baía de São Francisco, os participantes eram decididamente “AGI-pilled”, eles acreditam que a Inteligência Artificial Geral (AGI), uma IA poderosa capaz de competir com humanos na maioria das tarefas cognitivas, está no horizonte. Se isso for verdade, eles argumentam, é provável que a IA seja a chave para resolver os problemas mais espinhosos da sociedade, incluindo o sofrimento animal.
É importante esclarecer que especialistas ainda debatem intensamente se os sistemas de IA atuais algum dia alcançarão inteligência humana ou sobre-humana, e não está claro o que acontecerá se o fizerem. Mas alguns participantes da conferência imaginam um futuro possível no qual são os sistemas de IA, e não os humanos, que mandam. Eventualmente, eles pensam, o bem-estar dos animais pode depender de treinarmos os sistemas de IA para valorizarem a vida animal.
“A IA será muito transformadora e vai praticamente virar o jogo”, disse Constance Li, fundadora da Sentient Futures. “Se você acha que a IA tomará a maioria das decisões, então importa como ela valoriza os animais e outros seres sencientes”, aqueles que podem sentir e, portanto, sofrer.
Assim como Li, muitos participantes da cúpula são dedicados ao bem-estar animal desde muito antes de a IA entrar em cena. Mas eles não são do tipo que doa cem reais para um abrigo de animais. Em vez de focar em ações locais, eles priorizam soluções em maior escala, como reduzir a pecuária industrial promovendo a carne cultivada em laboratório.
O movimento de bem-estar animal da Bay Area está intimamente ligado ao altruísmo eficaz, um movimento filantrópico comprometido em maximizar o bem que se faz no mundo. De fato, muitos participantes da conferência trabalham em organizações financiadas por altruístas eficazes. Essa filosofia pode parecer ótima no papel, mas “maximizar o bem” é um problema complexo que pode não aceitar uma solução clara. O movimento foi criticado por algumas das soluções que seus líderes defenderam no passado, como trabalhar em indústrias exploradoras para maximizar doações de caridade e, mais recentemente, priorizar questões que poderiam causar sofrimento a um grande número de pessoas que ainda não nasceram, em detrimento de danos presentes. Críticos também argumentam que os altruístas eficazes negligenciam a importância de questões sistêmicas, como racismo e exploração econômica, e ignoram as percepções que comunidades marginalizadas podem ter sobre as melhores maneiras de melhorar suas próprias vidas.
Quando se trata de bem-estar animal, essa abordagem estritamente utilitarista pode levar a conclusões estranhas. Por exemplo: alguns altruístas eficazes afirmam que faz sentido dedicar recursos significativos para melhorar o bem-estar de insetos e camarões porque eles existem em números impressionantes, mesmo que possam não ter grande capacidade individual de sofrimento.
Agora, o movimento está descobrindo como a IA se encaixa nisso. Na cúpula, Jasmine Brazilek, cofundadora de uma organização sem fins lucrativos chamada Compassion in Machine Learning (Compaixão em Aprendizado de Máquina, em tradução livre), abriu seu laptop coberto de adesivos para exibir um benchmark que ela criou para medir como os grandes modelos de linguagem (Large Language Models, em inglês, com a sigla LLMs) raciocinam sobre o bem-estar animal. Jasmine, ex-engenheira de segurança em nuvem transformada em defensora dos animais, voou de La Paz, no México, onde dirige sua organização com um punhado de voluntários e um orçamento apertado.
Brazilek pediu aos pesquisadores de IA presentes que treinassem seus modelos com documentos sintéticos que refletissem a preocupação com o bem-estar animal. “Esperançosamente, futuros sistemas superinteligentes considerarão os interesses não humanos, e existe um mundo onde a IA amplifica o melhor dos valores humanos, não o pior”, disse ela.
O poder do bolso
O lado tecnológico do movimento de bem-estar animal enfrentou alguns reveses importantes nos últimos anos. Os sonhos de afastar as pessoas de uma dieta dependente da pecuária industrial foram prejudicados por desenvolvimentos como a queda no preço das ações da Beyond Meat, empresa de carne feita à base de plantas, e a aprovação de leis que proíbem a carne cultivada em vários estados dos EUA.
A IA injetou uma dose de otimismo. Como grande parte do Vale do Silício, muitos participantes da cúpula acreditam que a IA pode aumentar drasticamente sua produtividade, embora seu objetivo não seja maximizar sua rodada de investimentos, mas sim prevenir o máximo de sofrimento animal possível. Alguns discutiram como usar o Claude Code e agentes personalizados para lidar com tarefas de codificação e administrativas em seu trabalho de defesa. Outros propuseram desenvolver novos métodos mais baratos para cultivar carne usando ferramentas científicas de IA como o AlphaFold, que auxilia na pesquisa em biologia molecular ao prever as estruturas tridimensionais de proteínas.
Mas o assunto mais comentado do evento foi um fluxo de financiamento que os defensores esperam que seja em breve destinado a organizações de bem-estar animal, não por megadoadores individuais, mas por funcionários de laboratórios de IA.
Grande parte do financiamento para o movimento de bem-estar animal de criação, que inclui organizações sem fins lucrativos que defendem melhores condições nas fazendas, promovem o veganismo e apoiam a carne cultivada, vem de pessoas da indústria de tecnologia, diz Lewis Bollard, diretor-gerente do fundo de bem-estar animal de criação da Coefficient Giving, uma financiadora filantrópica que antes se chamava Open Philanthropy. A Coefficient Giving é apoiada pelo cofundador do Facebook, Dustin Moskovitz, e sua esposa, Cari Tuna, que estão entre um punhado de bilionários do Vale do Silício que abraçam o altruísmo eficaz.
“Essa é uma área que foi completamente negligenciada pelas filantropias tradicionais”, como a Fundação Gates e a Fundação Ford, diz Bollard. “Foram principalmente pessoas da tecnologia que se mostraram abertas a isso.”
Bollard espera que a próxima geração de grandes doadores seja formada por pesquisadores de IA, particularmente aqueles que trabalham na Anthropic, o laboratório de IA por trás do chatbot Claude. A equipe fundadora da Anthropic também tem ligações com o movimento de altruísmo eficaz, e a empresa tem um generoso programa de doações equivalentes. Em fevereiro, a avaliação da Anthropic atingiu US$ 380 bilhões e a empresa deu aos funcionários a opção de resgatar suas participações, então parte desse dinheiro pode em breve fluir para os cofres de caridade.
A perspectiva de novos financiamentos sustentou um burburinho constante de conversas na cúpula. Defensores do bem-estar animal se reuniram na “Sala dos Artrópodes” e rabiscaram grandes valores em dólares e siglas chamativas para projetos em um quadro branco. Uma pessoa propôs um super PAC animal de US$ 100 milhões que colocaria assessores junto aos membros do Congresso para fazer lobby por legislação de bem-estar animal. Alguns queriam iniciar uma empresa de mídia que criasse conteúdo gerado por IA no TikTok promovendo o veganismo. Outros falaram sobre colocar defensores dos animais dentro dos laboratórios de IA.
“A quantidade de novos financiamentos nos dá mais confiança para sermos mais ousados em relação às coisas”, disse Aaron Boddy, cofundador do Shrimp Welfare Project, uma organização que visa reduzir o sofrimento de camarões de criação por meio de abate humanitário, entre outras iniciativas.
A questão do bem-estar da IA
Mas o bem-estar animal foi apenas metade do foco da cúpula da Sentient Futures. Alguns participantes exploraram um território muito mais especulativo. Eles levaram a sério a ideia controversa de que os sistemas de IA podem um dia desenvolver a capacidade de sentir e, portanto, sofrer, e se preocupam que esse futuro sofrimento da IA, se ignorado, possa constituir uma catástrofe moral.
O sofrimento da IA é um problema de pesquisa complexo, não menos porque os cientistas ainda não têm uma compreensão sólida de por que humanos e outros animais são sencientes. Mas na cúpula, um nicho de filósofos, amplamente financiados pelo movimento de altruísmo eficaz, e um punhado de acadêmicos independentes se debruçaram sobre a questão. Alguns apresentaram suas pesquisas sobre o uso de LLMs para avaliar se outros LLMs podem ser sencientes. Na Noite do Debate, os participantes discutiram se deveríamos chamar ironicamente os sistemas de IA sencientes de “clankers” (um termo depreciativo para robôs do filme Star Wars), perguntando se esse insulto robótico poderia moldar a forma como tratamos um novo tipo de mente.
“Não importa se é uma vaca, um porco ou uma IA, desde que tenham a capacidade de sentir felicidade ou sofrimento”, diz Li.
De certa forma, trazer a senciência da IA para uma conferência de bem-estar animal não é tão estranho quanto pode parecer. Pesquisadores que trabalham com senciência de máquinas frequentemente se baseiam em teorias e abordagens pioneiras no estudo da senciência animal, e se você aceita que os invertebrados provavelmente sentem dor e acredita que os sistemas de IA podem em breve alcançar inteligência sobre-humana, entreter a possibilidade de que esses sistemas também possam sofrer pode não ser um grande salto.
“Defensores do bem-estar animal estão acostumados a nadar contra a corrente”, diz Derek Shiller, pesquisador de consciência em IA do think tank Rethink Priorities, que já foi desenvolvedor web na organização de defesa animal Humane League. “Eles estão mais abertos a se preocupar com o bem-estar da IA, mesmo que outras pessoas achem isso bobo.”
Mas fora do nicho do círculo da Bay Area, preocupar-se com a possibilidade de senciência da IA é algo mais difícil de vender. Li diz que enfrentou resistência de outros defensores do bem-estar animal quando, inspirada por uma conferência sobre senciência da IA de que participou em 2023, renomeou sua organização de defesa do bem-estar de animais de criação para Sentient Futures no ano passado. “Muitas pessoas estavam extremamente confiantes de que as IAs nunca se tornariam sencientes e [argumentaram que] ao investir qualquer energia ou dinheiro no bem-estar da IA, estamos apenas queimando dinheiro e jogando fora”, diz ela.
Matt Dominguez, diretor executivo da Compassion in World Farming, ecoou a preocupação. “Eu odiaria ver as pessoas tirando dinheiro do bem-estar de animais de criação ou do bem-estar animal e transferindo-o para algo que é hipotético neste momento”, diz ele.
Ainda assim, Dominguez, que começou a fazer parceria com o Shrimp Welfare Project após aprender sobre o sofrimento dos invertebrados, acredita que a compaixão é expansiva. “Quando fazemos alguém se importar com uma dessas coisas, isso cria capacidade para que seu círculo de compaixão cresça e inclua outras”, diz ele.
Michelle Kim está participando de uma bolsa Tarbell, que é financiada em parte pela Coefficient Giving.
Michelle Kim e Grace Huckins
