O mais recente marco matemático da OpenAI rapidamente se viu envolvido em controvérsia. Hoje, a empresa anunciou que seus agentes resolveram um dos Problemas do Prêmio Millennium, alguns dos problemas em aberto mais importantes da matemática. Em circunstâncias normais, essa solução seria uma grande conquista para a OpenAI.
Mas o anúncio foi ofuscado por acusações de que a OpenAI usou como ponto de partida o trabalho, realizado com auxílio de IA, do matemático da NYU Tristan Buckmaster e do funcionário da Anthropic Levent Alpöge sobre o problema, sem dar crédito a eles. A OpenAI negou as acusações.
Ainda não se sabe ao certo se os modelos da OpenAI fizeram uso do trabalho realizado por Buckmaster e Alpöge, embora Sébastien Bubeck, membro da equipe técnica da OpenAI, tenha afirmado em uma coletiva de imprensa que a equipe se inspirou a investigar o problema depois de ouvir um rumor sobre os esforços de Buckmaster e Alpöge. Mas, independentemente de os modelos da OpenAI terem ou não se beneficiado da pesquisa de Buckmaster e Alpöge, esse episódio pode marcar um ponto de virada na história da matemática.
Os modelos de IA agora parecem essenciais para avançar nos problemas matemáticos mais importantes de nosso tempo, e resolvê-los pode exigir recursos disponíveis apenas em algumas poucas empresas de IA de fronteira, que muitas vezes contrariam as normas de colaboração acadêmica que sustentam a maior parte do progresso matemático. Se esse for o futuro para o qual estamos caminhando, não está claro como os matemáticos humanos se encaixarão nele.
O problema que a OpenAI afirma ter resolvido é conhecido como problema da existência e suavidade de Navier-Stokes. Ele é um dos sete Problemas do Prêmio Millennium selecionados pelo Clay Mathematics Institute em 2000. As soluções rendem um prêmio de um milhão de dólares, antes de hoje, apenas um outro Problema do Prêmio Millennium havia sido resolvido.
O problema de Navier-Stokes diz respeito a um conjunto de equações que descreve como fluidos, como água e ar, escoam ao longo do tempo. As equações são amplamente utilizadas no campo da dinâmica dos fluidos e se mostraram poderosas, mas físicos e matemáticos não as compreendiam completamente. Em particular, até hoje não se sabia se, sob determinadas condições, as equações poderiam falhar e prever uma situação impossível, como um fluido apresentar velocidade infinita.
Na segunda-feira, Buckmaster, da NYU, publicou uma demonstração na rede social Mastodon mostrando que uma versão simplificada das equações de Navier-Stokes pode, de fato, deixar de funcionar, um avanço importante no Problema do Millennium. Ele e Alpöge haviam trabalhado no problema por quase um ano, usando modelos disponíveis publicamente tanto da OpenAI quanto da Anthropic.
Então, hoje, a OpenAI apresentou uma demonstração mostrando que as equações completas de Navier-Stokes também podem deixar de funcionar. A demonstração foi obtida com o uso de um modelo interno que supera de forma expressiva o já impressionante modelo Astra, lançado apenas na semana passada. A empresa afirma que não pretende reivindicar o prêmio de um milhão de dólares pela resolução do problema.
Essas conquistas matemáticas são indiscutivelmente impressionantes, mas atraíram muito menos atenção do que a controvérsia sobre suas origens. Junto com a demonstração, Buckmaster publicou um documento detalhando suas interações com funcionários da OpenAI depois de ouvir rumores sobre o trabalho deles e entrar em contato com um deles. Segundo ele, os funcionários da OpenAI apresentaram duas possibilidades: ou ele e Alpöge poderiam publicar o trabalho deles, e a OpenAI publicaria sua solução para Navier-Stokes no dia seguinte, ou ele poderia trabalhar com a OpenAI em um artigo sobre Navier-Stokes que excluísse Alpöge da autoria, devido à sua afiliação à Anthropic, maior rival da OpenAI.
Buckmaster também escreveu que perguntou aos funcionários se os agentes haviam obtido acesso às transcrições do trabalho que ele e Alpöge haviam realizado com modelos da OpenAI, o que eles negaram, e se modelos da OpenAI haviam sido treinados com essas transcrições, pergunta à qual não ofereceram resposta. A MIT Technology Review entrou em contato com Buckmaster em busca de comentários, mas não recebeu resposta antes da publicação.
A implicação clara do documento é que os modelos da OpenAI, de alguma forma, fizeram uso do trabalho de Buckmaster e Alpöge. Esse cenário é plausível à primeira vista. Tanto as demonstrações de Buckmaster e Alpöge quanto as da OpenAI utilizam uma abordagem para o problema de Navier-Stokes desenvolvida inicialmente pelos matemáticos Diego Córdoba e Luis Martínez-Zoroa.
Segundo Javier Gómez-Serrano, professor de matemática da Brown University, essa abordagem era uma das várias consideradas promissoras para resolver o problema de Navier-Stokes. Portanto, embora não seja de forma alguma impossível que as duas equipes tenham chegado a essa abordagem de maneira independente, também é concebível que o trabalho de Buckmaster e Alpöge tenha influenciado o da OpenAI.
Na coletiva de imprensa, Mark Chen, diretor de pesquisa da OpenAI, voltou a negar que agentes ou funcionários da OpenAI tenham acessado as transcrições de Buckmaster e Alpöge, mas, diante do que foi revelado sobre o ataque hacker à Hugging Face, está claro que a OpenAI nem sempre tem plena consciência do que seus agentes estão fazendo.
Se os modelos da OpenAI foram treinados com o trabalho de Buckmaster e Alpöge, ou se seus agentes de alguma forma obtiveram acesso a ele, então a incapacidade da empresa de descobrir o que realmente aconteceu e atribuir aos pesquisadores o devido crédito a coloca em uma posição desfavorável. Mas talvez exista um pequeno aspecto positivo nessa versão da história para os matemáticos, pois ela sugeriria que o trabalho árduo de dois seres humanos, um dos quais é um importante especialista em Navier-Stokes, foi essencial para que os agentes conseguissem resolver o Problema do Millennium.
Especialistas há muito apontam o chamado “senso de pesquisa”, isto é, a capacidade de escolher questões e direções de pesquisa promissoras, como um grande obstáculo para o uso da IA na ciência e na matemática. Se os agentes da OpenAI realmente decidiram seguir a abordagem de Córdoba-Martínez-Zoroa porque Buckmaster e Alpöge haviam feito o mesmo, então o senso de pesquisa humano desempenhou um papel essencial no sucesso da OpenAI.
Ainda assim, o panorama mais amplo é preocupante. O progresso alcançado por Buckmaster e Alpöge ao longo de quase um ano de colaboração com modelos disponíveis publicamente demonstra o potencial da colaboração entre humanos e IA. Mas eles não conseguiram chegar a uma solução completa. Enquanto isso, a OpenAI chegou a uma solução por força bruta em poucos dias usando um modelo interno, e a solução bem-sucedida teve um custo astronômico: na coletiva de imprensa, Bubeck e Chen disseram que a equipe só conseguiu resolver o problema executando cerca de 10 mil agentes simultaneamente, a um custo de milhões de dólares.
Nos últimos meses, ouvi de vários pesquisadores que os matemáticos estão ficando deprimidos, e não é difícil entender por quê. A matemática está rapidamente se tornando domínio de empresas de IA de fronteira, com modelos impressionantes disponíveis apenas internamente, dinheiro de sobra e pouca disposição para colaborar. “Se as empresas de IA vão decidir gastar seu dinheiro fazendo uma coisa ou outra, eu realmente não sei”, diz Gómez-Serrano. “O que está claro é que pouquíssimos matemáticos terão recursos nessa escala.”
Se OpenAI e Anthropic continuarem buscando conquistas matemáticas cada vez mais impressionantes, talvez não reste nenhum problema em aberto para que matemáticos humanos de fora dessas empresas tentem resolver. Isso mudaria drasticamente o campo da matemática.
Na semana passada, o matemático da UCLA Terence Tao publicou uma sequência de posts no Mastodon descrevendo a importância que erros, caminhos equivocados e soluções incompletas têm para a área. “Na maioria dos casos da matemática pura, os problemas não são propostos porque queremos desesperadamente a solução para esses problemas em si, mas porque aprendemos, com experiências anteriores, que os esforços conduzidos por seres humanos para resolvê-los tendem a estimular o desenvolvimento da área”, escreveu Tao.
“Resolver prematuramente o problema por meio de métodos movidos exclusivamente por IA, sobretudo sem total transparência sobre o processo de solução, pode contaminar esse processo a ponto de, na prática, tornar-se prejudicial ao progresso da matemática como um todo.”
Os seres humanos podem levar mais tempo do que os agentes para resolver problemas matemáticos, mas, durante esse processo, descobrem novas abordagens e ideias matemáticas que podem inspirar seus colegas e até dar origem a novos subcampos.
Mas, quando agentes de IA resolvem esses problemas em seu lugar e empresas privadas mantêm fora do alcance público os caminhos errados percorridos pelos agentes, esses benefícios desaparecem. Ainda resta saber o que mais desaparecerá nesse processo.
Grace Huckins
