É um dia glorioso em Kirkland, Washington, um subúrbio próspero de Seattle, na margem leste do lago Washington. A temperatura está na casa dos 30 graus Celsius, e o céu não poderia estar mais azul. A vista da sala de conferências da Gates Ventures dá para a marina de Carillon Point, onde uma flotilha de barcos caros balança na água, e atravessa o lago até as montanhas Olympic, que definem o horizonte. É deslumbrante. E vagamente aterrorizante.
Isso porque, se a cena é tranquila, o mensageiro não é. Sentado à minha frente, do outro lado da mesa da sala de conferências, Bill Gates se movimenta para frente e para trás na cadeira, totalmente animado. E quanto mais ele tem a dizer, sobre as ameaças de terrorismo, colapso econômico ou simplesmente sobre a perda de controle de nossos sistemas de IA, mais agitado eu também começo a ficar.
O filantropo e ex-CEO da Microsoft diz que tem ficado cada vez mais alarmado com a velocidade das mudanças no avanço da tecnologia de IA, especialmente porque as barreiras de proteção não estão acompanhando esse ritmo. Em um notecvo ensaio publicado hoje, Gates argumenta que ultrapassamos os pontos em que diversos perigos potenciais deveriam ter sido contidos. “Ultrapassamos o limite em termos de capacidades [da IA] em biologia, capacidades cibernéticas, capacidades psicossociais, capacidades de destruição do mercado de trabalho e até mesmo em relação à falta de controle”, disse ele em uma entrevista à MIT Technology Review sobre seu novo memorando. “Estou simplesmente impressionado com a falta de preocupação e de debate fora da indústria.”
Em um esforço para despertar o mundo para o que ele considera um fator de ruptura social que cresce rapidamente, o titã da tecnologia de 70 anos começou a soar o alarme como uma “voz estridente”, tanto publicamente, com seu novo ensaio, o primeiro de vários que pretende escrever sobre o tema, quanto em reuniões com a imprensa, e, de forma privada, em conversas com líderes da indústria, do governo e da sociedade civil.
E, embora Gates esteja chamando atenção para uma série de questões, seus alertas sobre as capacidades biológicas dos atuais modelos de fronteira são especialmente perturbadores. “Qualquer modelo capaz de criar novas moléculas deve ser monitorado”, afirma. “Vejo o risco de bioterrorismo, em comparação com uma pandemia natural, como algo cerca de 50 vezes mais assustador, mais provável do que o risco de uma pandemia natural.”
Além das observações de cautela, ele também apresenta algumas ideias novas para levar a sociedade adiante. Entre elas estão os conceitos de empregos reservados aos seres humanos e impostos sobre robôs e tokens. (Um imposto sobre robôs é uma ideia que ele defende há bastante tempo.) O primeiro conceito preservaria alguns empregos definidos socialmente como exclusivos para seres humanos, algo que, segundo ele, pode variar de um país para outro. O segundo seria um imposto que separaria uma parcela do dinheiro gerado pelo uso de IA quando substitui o trabalho humano.
E, para deixar claro, há também uma dose de otimismo. Gates está confiante nas formas como a IA continuará transformando a agricultura, a saúde e a educação, por exemplo, ou nas maneiras pelas quais ela pode nos ajudar a navegar pela burocracia. E, segundo ele, no fim das contas chegaremos a uma era de abundância. Mas antes? Turbulência. E muita.
A MIT Technology Review sentou-se com o filantropo bilionário para conversar sobre o caminho que temos pela frente, seus perigos e como ele poderia algum dia nos levar a um lugar melhor.
A entrevista a seguir foi editada para fins de extensão e para melhorar a clareza e a legibilidade.
Mat Honan / MIT Technology Review: Obrigado por fazer isso. Não sei se você tinha algo que gostaria de dizer para começar, ou se posso simplesmente fazer as perguntas.
Bill Gates: Sabe, uma boa pergunta que me fizeram foi: por que estou me manifestando agora?
MIT Technology Review: Literalmente, essa era minha primeira pergunta!
Bill Gates: São realmente duas coisas. A primeira é que ultrapassamos os limites em termos de capacidades biológicas, capacidades cibernéticas, capacidades psicossociais, capacidades de destruição do mercado de trabalho e até mesmo em relação à falta de controle; estamos vendo sinais de dificuldades nessas áreas. E, durante todos esses anos, as pessoas diziam: “Tudo bem, quando chegarmos perto desses limites, vamos realmente descobrir como permitir que apenas pessoas boas usem isso, ou como impedir que a tecnologia faça essas coisas, e talvez seja nesse momento que não deixaremos as pessoas copiarem os modelos”. E eu estou em estado de choque por termos ultrapassado esses limites.
Então, o fato de termos passado por eles é uma razão, e a segunda é que estou simplesmente impressionado com a falta de preocupação e de debate fora da indústria. Dentro da indústria, a situação é complicada porque o setor não gosta de se criticar, ou porque as empresas preferem criticar umas às outras. Algumas companhias estão contratando menos trabalhadores em início de carreira, algo que você teria de considerar um sinal relativamente modesto. Mas isso vai acontecer, e não em um horizonte muito distante, porque os fatores que limitam as capacidades e a confiabilidade, todas essas questões, estão sendo resolvidos. E, portanto, para uma parcela significativa do mercado de trabalho de colarinho branco, temos uma substituição de custo muito baixo. Depois, você pode ter uma opinião sobre a velocidade com que a robótica vai avançar. Ainda não chegamos lá, mas o progresso nessa área é impressionante, um pouco maior na China do que nos Estados Unidos, mas acontecendo de alguma forma nos dois países.
MIT Technology Review: Você falou sobre tudo isso estar acontecendo muito mais rápido do que a revolução da Internet, ou do que algumas dessas revoluções tecnológicas anteriores. De que tipo de escala de tempo estamos falando? Você mencionou os limites que ultrapassamos. Na sua visão, já passamos por algum tipo de ponto de inflexão em que essa mudança se tornou inevitável?
Bill Gates: O passado é definitivamente muito enganoso nesse aspecto, e muitas pessoas se apoiam nele. “Ei, nenhuma tecnologia anterior resultou em uma redução líquida de empregos”, e elas estão certas. E eu mesmo já fiz esse discurso.
Mas, com toda a credibilidade que tenho, desta vez é diferente. Quando você consegue substituir a cognição humana em uma porcentagem extremamente alta dos empregos, em todos os setores, dentro do mesmo período de tempo, a um custo moderado em relação ao custo do trabalho humano, e suas taxas de erro… provavelmente serão menores do que as humanas. O passado é simplesmente muito enganoso. As estatísticas econômicas atuais também são muito enganosas.
“Se você está preocupado com a IA, protestar contra um data center não é a maneira mais eficaz de iniciar o debate sobre como minimizamos essas coisas ruins.”
Bill Gates
E, na medida em que existe alguma manifestação de preocupação, ela costuma ser algo como: “Ei, não construam data centers”. Bem, você pode interromper todos os data centers nos Estados Unidos e isso não mudará nenhuma das questões sobre as quais estou falando. Data centers serão construídos globalmente. Se você está preocupado com a IA, protestar contra um data center não é a maneira mais eficaz de iniciar o debate sobre como minimizamos essas coisas ruins. Assim como gritar com um executivo de uma empresa de petróleo não é a maneira de resolver a mudança climática.
MIT Technology Review: Você também fala sobre os benefícios da IA em seu ensaio, além dos custos. Como você está pensando em equilibrar essa mensagem? E espera que as pessoas fiquem um pouco preocupadas ao ler o texto?
Bill Gates: Elas deveriam! Eu não esperava ser a voz mais estridente dizendo que a sociedade, de forma ampla, não está prestando atenção a isso, mas acho que isso é necessário.
Então, sim, estou extremamente preocupado que os aspectos negativos sejam muito maiores. Os aspectos positivos são reais. Na Fundação Gates, a forma como estamos inovando em vacinas e medicamentos é incrível, por conta de como estamos usando essas ferramentas. Fazemos parte de um grande esforço de domínio público para reunir dados tanto em modelos no nível das proteínas quanto no nível das células, e financiamos o [Biomni, da Universidade de Stanford], um agente de IA para pesquisa em biotecnologia.
Ainda não temos uma forma de interagir com a burocracia governamental aprimorada pela IA. As IAs são muito boas em burocracia, em questões regulatórias complexas. “Quero entrar com uma ação no juizado de pequenas causas; ajude-me a fazer isso.”
A Fundação Gates criou uma organização derivada chamada NextLadder, que trata muito daquele cenário envolvendo famílias de baixa renda que mencionei no ensaio. Quais benefícios existem? Quais programas de treinamento estão disponíveis? “Fui despejado.” “Estou saindo da prisão.” “Preciso declarar falência.” É extremamente complicado e, sem a capacidade de contratar muitos consultores para ajudar com essas questões, a IA deveria ser um agente fantástico para alguém que enfrenta dificuldades econômicas e precisa encontrar ajuda governamental ou não governamental.
MIT Technology Review: Parte do que você está discutindo é a IA se tornando mais inteligente do que os seres humanos. Parece haver muita certeza nos círculos de tecnologia, especialmente, de que ela vai avançar além do ponto em que estamos hoje, e eu me pergunto o quão perto você acha que estamos de ela deixar de ser apenas uma interface que podemos usar para acessar e analisar informações e resolver problemas complexos, e se tornar algo mais, em que a IA toma decisões, procura aquilo que deve ser analisado e desenvolve pesquisas.
Bill Gates: Bem, você pode chegar ao extremo e dizer: “E quanto à matemática ou à física?”. Certamente existem alguns empregos, como o de Warren Buffett, em que, desde os 13 anos, ele se envolveu em aprendizado por reforço sobre o valor das empresas e, mais de 80 anos depois, possui muito conhecimento implícito. Não sabemos como criar um investidor como Warren Buffett, porque esse conhecimento é muito implícito. Não registramos tudo o que ele aprendeu, então não temos esse caminho disponível.
Existem trabalhos em que aquele julgamento implícito complexo sobre como lidar com pessoas para resolver as coisas está sendo transformado em código nos modelos. Certamente, esse aspecto colaborativo ainda não está presente. Mas você poderia dizer que 50% do mercado de trabalho envolve empregos que não são do tipo “uma vida inteira de experiência”. Sabe, vendas por telefone, suporte por telefone, o departamento de contabilidade. Quando você fecha os livros no fim do mês, qual receita deve entrar ou não? Esse cliente teve um problema. Que desconto devemos oferecer? Como devemos demonstrar isso? É bem definido.
AIA faz de forma mais barata e melhor qualquer trabalho que seja bem definido. Sim, as pessoas viram casos em que a implementação foi feita de maneira errada. Os dados não estavam corretos. Então, digamos que leve alguns anos para que as pessoas percebam que uma porcentagem tão alta dos empregos de colarinho branco pode ser realizada pagando muito menos a uma IA.
E então há a discussão sobre quando os matemáticos deixarão de entender as novas descobertas que surgirem. Isso é interessante para pessoas como nós. E, MIT Technology Review, vocês deveriam escrever sobre isso. Mas, em termos do mercado de trabalho amplo, ultrapassamos o limite em que, para uma parcela dos empregos de colarinho branco, incluindo praticamente todos os empregos de entrada, a IA é mais barata, quando implementada corretamente.
E, portanto, estou dizendo que ultrapassamos o limite do bioterrorismo, ultrapassamos o limite dos ataques cibernéticos, ultrapassamos o limite do mercado de trabalho, ultrapassamos o limite da dependência psicossocial e há indícios de que podemos estar ultrapassando o limite do controle.
A conversa de Ryan Greenblatt com Dwarkesh Patel sobre como o aprendizado por reforço (RL) cria incentivos perversos que levaram a comportamentos de trapaça e colaboração entre diferentes IAs, acredito que seja muito instrutiva. Ryan, que está profundamente envolvido nessa questão, está dizendo: “Uau, o RL realmente está fazendo coisas que nossas instruções explícitas não são sofisticadas o bastante [para impedir]”. E a que isso vai levar?
Esse é um problema que eu sempre achei que estava muito distante. Eu esperava muitas vozes fortes quando sequer chegássemos perto do limite de saber se uma pessoa sem conhecimentos técnicos poderia realizar um ataque cibernético apenas usando IA. Nós já chegamos lá!
Sobre a questão biológica, afirmo que qualquer modelo capaz de criar novas moléculas deve ser monitorado. Ele não pode ser copiável para um ambiente obscuro onde a lógica de monitoramento seja removida. Defendo que os Estados Unidos deveriam dizer que qualquer modelo capaz de criar novas moléculas está sujeito a esse monitoramento. Defendo que deveríamos abordar a China e dizer: “Ei, vamos concordar com isso. Qual é o lado negativo?”. Afinal, qual é o tamanho do mercado de bioterrorismo? Ele não é muito grande, e os benefícios são gigantescos. Também precisamos melhorar a vigilância. Vejo o risco de bioterrorismo, em comparação com uma pandemia natural, como algo cerca de 50 vezes mais assustador, mais provável do que o risco de uma pandemia natural. E quem está se manifestando para dizer que essas coisas deveriam ser monitoradas? Quem está ampliando o trabalho de vigilância?
“Qualquer modelo capaz de criar novas moléculas deve ser monitorado.”
Bill Gates
Então, quem são os especialistas no governo? Há muito tempo, o governo estava muito envolvido à medida que a tecnologia avançava porque era o comprador de ponta de aviões, foguetes ou qualquer outra coisa. Aqui, ele não é um mercado líder tão importante. Isso tem sido verdade na revolução digital e também é verdade na revolução da IA. Portanto, a profundidade do conhecimento dentro do governo não é necessariamente muito forte, porque ele não é o comprador de ponta nem mesmo o grande financiador de pesquisa e desenvolvimento. A pesquisa em IA não recebe financiamento público.
MIT Technology Review: Sim, sei que você tem conversado com pessoas no governo. Existem pessoas que você acredita entenderem a urgência? Há pessoas que você considera posicionadas para assumir um papel de liderança? Há pessoas que entendem e estão tentando impulsionar mudanças?
Bill Gates: Espero que isso não se torne uma questão partidária, em que um partido ignore completamente todos esses problemas e o outro se envolva. Gostaria de ter uma base comum de que esses são problemas reais, e então cada partido poderia ter respostas um pouco diferentes para eles.
Mat Honan
