Como senador estadual da Califórnia, Scott Wiener foi autor de projetos de lei destinados a conter os riscos da IA avançada. Agora, depois de vencer uma disputa acirrada pela cadeira de São Francisco deixada por Nancy Pelosi, ex-presidente da Câmara dos Representantes dos Estados Unidos, ele poderá desempenhar um papel fundamental na definição da política federal para a inteligência artificial.
Conversei com Scott na sexta-feira, poucas horas depois de sua vitória ter sido declarada. Mas ele já estava pensando nos riscos da IA. No dia anterior, a organização sem fins lucrativos METR, dedicada à Inteligência Artificial, havia divulgado um relatório amplamente interpretado como evidência de que a Anthropic havia alcançado o autoaperfeiçoamento recursivo, fenômeno no qual a IA contribui de maneira significativa para seu próprio avanço e o progresso da tecnologia pode potencialmente sair do controle.
“É muito preocupante”, disse ele, citando o relatório como evidência de que estamos rapidamente ficando sem tempo para regulamentar a IA. “Eu esperava que o Congresso tomasse medidas decisivas antes do fim deste ano”, afirmou. “Isso não parece estar acontecendo.”
Scott Wiener tem dedicado cada vez mais atenção à IA nos últimos anos e incorporou muitas das preocupações do movimento pela segurança da Inteligência Artificial. Durante nossa conversa de 20 minutos, por exemplo, ele usou a expressão “autoaperfeiçoamento recursivo” cerca de meia dúzia de vezes. “Precisamos desacelerar esse processo”, afirma. “Porque ele está avançando muito rapidamente, e podemos caminhar inadvertidamente para um desastre.”
O recém-eleito membro da Câmara dos Representantes dos EUA já exerceu influência concreta sobre as políticas de IA. O SB 1047, projeto de lei de autoria dele apresentado em 2024, estava prestes a se tornar a primeira legislação efetiva sobre IA de fronteira nos Estados Unidos, antes de ser vetado pelo governador da Califórnia, Gavin Newsom. Posteriormente, Scott patrocinou o SB 53, um projeto de lei com uma abordagem regulatória mais branda, sancionado por Newsom. Ambos os projetos inspiraram propostas de legislação federal.
A campanha de Scott Wiener ao Congresso recebeu mais de US$ 3 milhões da Public First Action, uma organização sem fins lucrativos favorável à regulamentação da IA que recebe financiamento significativo da Anthropic. Essa contribuição levou adversários a criticá-lo pela suposta proximidade excessiva com a indústria de IA, mas ele afirma que isso está muito longe da verdade.
“A Public First me apoiou porque fui o primeiro legislador do país a apresentar uma proposta de regulamentação da IA e o primeiro a conseguir aprová-la e implementá-la”, escreveu em uma mensagem após nossa entrevista. “Os ataques contra mim por causa do apoio da Public First foram de um cinismo impressionante. Literalmente atacaram um candidato que efetivamente regulamentou a IA apesar da oposição das grandes empresas de tecnologia e alegaram falsamente que, de alguma forma, esse candidato era próximo demais dessas empresas.”
Scott afirma que, caso o Congresso crie uma comissão especial sobre Inteligência Artificial, possibilidade discutida pelos democratas desde setembro, ele teria grande interesse em participar. Também demonstra entusiasmo por muitas das propostas de políticas públicas que circulam no Congresso. “Acho muito importante termos um órgão regulador federal forte, com poderes efetivos e capacidade de agir rapidamente”, afirma, observando que o deputado Ro Khanna, também democrata da Califórnia, apresentou um projeto de lei para criar esse órgão.
Ele também destaca a importância de proteger denunciantes, estabelecer exigências de testes e auditorias e exigir mecanismos de desligamento de emergência. Além disso, quer que o Congresso utilize os poderes de fiscalização para responsabilizar os laboratórios de IA. “Isso diz respeito ao futuro da humanidade. Queremos garantir que a população tenha voz nas decisões e saiba o que está acontecendo”, aponta Scott.
Como legislador estadual de longa data, Wiener também se opõe a uma ampla prevalência da legislação federal sobre as leis estaduais de IA, algo que algumas propostas federais exigiriam. “Os estados são laboratórios, como diz Louis Brandeis (juiz da Suprema Corte dos EUA no início do século XX)”, observa. “É importante permitir que os estados continuem tendo a capacidade de agir rapidamente, de maneiras que o Congresso às vezes não consegue.”
Acima de tudo, Scott Wiener afirma que deseja que o Congresso aprove políticas com força efetiva. “É fundamental que, quando o Congresso agir, faça isso de maneira verdadeiramente significativa e à altura do momento”, afirma. Isso significa levar a sério a possibilidade de uma catástrofe provocada pela IA, tema que ele aborda com uma linguagem normalmente utilizada por especialistas em segurança da Inteligência Artificial. “Estamos em um momento muito perigoso em termos do risco de perdermos o controle sobre a IA”, disse-me. “Precisamos lidar com o autoaperfeiçoamento recursivo. Quando entramos nesse território, isso realmente pode se tornar uma receita para a perda total de controle.”
Ele contará com alguns aliados na luta contra os riscos catastróficos da IA. O senador Bernie Sanders, por exemplo, reuniu-se com muitas das figuras mais influentes do movimento pela segurança da Inteligência Artificial e falou repetidamente sobre IA e risco existencial. Mas ainda existe uma grande distância entre a perspectiva de Scott, moldada pela região da Baía de São Francisco e profundamente influenciada pelas discussões sobre Inteligência Artificial geral (AGI), e a percepção nacional sobre a IA, marcada pela oposição aos data centers.
O fato de os eleitores terem aprovado 40 das 41 propostas contra data centers submetidas à votação na terça-feira poderia parecer um bom sinal para Scott Wiener e outros defensores da regulamentação da IA. No entanto, ele afirma que considera esse movimento muito mais relacionado a preocupações locais do que a questões mais amplas sobre os riscos da Inteligência Artificial.
“As pessoas que realmente se opõem aos rumos que a IA está tomando veem nisso uma área em que podem efetivamente fazer alguma coisa”, afirma. “Mas, quanto à revolta contra os data centers, acredito que esteja mais relacionada ao descontentamento das pessoas com a possibilidade de instalações desse tipo serem construídas em suas comunidades, com todos os impactos próximos de casas, aumentando as contas de energia elétrica e consumindo água. Pelo que consigo perceber, acho que essa é a principal questão para a maioria das pessoas.”
Scott se descreve como apenas “cautelosamente otimista” em relação à capacidade do Congresso de controlar a IA, considerando seu histórico insatisfatório de regulamentação do setor de tecnologia. Ele também manifesta preocupações com a possibilidade de conseguir aprovar leis que superem a resistência do presidente Donald Trump, que classificou as preocupações com os riscos catastróficos da IA como uma “farsa” em setembro e demonstrou uma forte indisposição para colaborar com a China, algo que Scott Wiener considera essencial para evitar as piores consequências da Inteligência Artificial.
Ainda assim, ele afirma que a imprevisibilidade de Trump oferece alguma esperança, embora seja uma esperança cercada de incertezas. “Até agora, vimos algumas coisas problemáticas, mas não desastres completos”, diz. “Espero que não seja necessário um desastre para levar o presidente a agir. E espero que, se for isso o que for preciso, que seja o menor desastre possível.”
Grace Huckins
