Matemática em risco? 25 matemáticos, incluindo vencedores da Medalha Fields, alertam e um deles responde em exclusivo

Repórter: Zhou You, China Newsweek

Editor: Du Wei

Editor de operações: Wang Lin

A 11 de setembro, hora local, 25 matemáticos, incluindo o vencedor da Medalha Fields Terence Tao e Deng Yu, publicaram em conjunto a declaração "Grave desalinhamento da inteligência artificial na matemática", levando ao auge uma "guerra" entre empresas de IA como OpenAI e Anthropic e a comunidade matemática. A declaração afirma que a prática das empresas de IA de usar a resolução de problemas matemáticos difíceis como referência para a capacidade dos modelos prejudica a própria ciência matemática e a comunidade matemática, divergindo significativamente do objetivo fundamental da comunidade matemática de buscar a compreensão conceptual.

Esta divergência tornou-se cada vez mais evidente recentemente. A 8 de setembro, a OpenAI afirmou que o seu modelo interno de IA não divulgado resolveu em 88 horas o problema da existência e suavidade das equações de Navier-Stokes (equações N-S). As equações N-S são as equações centrais que descrevem o movimento dos fluidos, amplamente aplicadas em áreas como previsão meteorológica e design de aeronaves. O Clay Mathematics Institute (CMI) dos EUA classificou em 2000 o problema da existência e suavidade como um dos sete Problemas do Prémio do Milénio, com um prémio de 1 milhão de dólares americanos.

No entanto, o matemático da Universidade de Nova Iorque Tristan Buckmaster e o investigador da Anthropic Levent Alpöge já tinham feito progressos cruciais em problemas relacionados e divulgaram os resultados a 7 de setembro. Buckmaster criticou posteriormente a OpenAI, considerando que esta só intensificou os esforços depois de saber dos seus progressos. Revelou que tinha usado rascunhos e derivações não publicados nas ferramentas de código da OpenAI, suspeitando que foram "espiados" pelos modelos da OpenAI. A OpenAI negou esta alegação, mas admitiu que não pode excluir completamente a influência indireta dos dados dos utilizadores no treino dos modelos. Atualmente, a OpenAI não tem intenção de reivindicar o prémio do CMI. A comunidade matemática ainda não deu reconhecimento formal à prova da OpenAI.

A abordagem da OpenAI desencadeou rapidamente um debate aceso sobre prioridade académica, ética de dados e os limites da investigação científica com IA. Desde maio deste ano, vários problemas matemáticos difíceis foram resolvidos por IA, e a OpenAI revelou recentemente que voltou a sua atenção para outro Problema do Prémio do Milénio, a Conjectura de Hodge.

A IA continua a extinguir os "faróis" da matemática humana. Stanislav Smirnov, professor da Universidade de Genebra, na Suíça, vencedor da Medalha Fields em 2010, é um dos 25 signatários da declaração. A 12 de setembro, concedeu uma entrevista exclusiva à China Newsweek.

Stanislav Smirnov Foto/captura de vídeo

"Como escavadores a queixarem-se de serem substituídos por escavadoras"

China Newsweek: A declaração levou apenas alguns dias desde a redação até à publicação. Qual foi a principal razão para tanta urgência?

Smirnov: A maioria dos colegas não previu que este assunto progredisse tão rapidamente, nem que gerasse tanta controvérsia. Dado o rápido desenvolvimento da IA, precisamos de agir rapidamente para estabelecer regras do jogo orientadas para o futuro.

China Newsweek: A declaração usa o termo "grave desalinhamento". Qual é a divergência fundamental entre os objetivos matemáticos das empresas de IA e os objetivos matemáticos defendidos pela própria comunidade matemática?

Smirnov: Primeiro, temos de responder à pergunta: qual é o propósito do apoio da sociedade à investigação matemática? A matemática, tal como a música e a arte, é uma parte importante da cultura humana e a base de muitas outras disciplinas e tecnologias. Para muitos matemáticos, o valor cultural e artístico da matemática é o mais importante.

Muitas aplicações práticas geradas pela matemática, desde telemóveis e aviões até à própria aprendizagem automática, foram inicialmente criadas em busca da beleza científica. Até agora, as empresas de IA usam a matemática como indicador para medir a capacidade dos grandes modelos, o que é compreensível. Estes modelos tornaram-se tão poderosos que é difícil encontrar referências de avaliação adequadas. Mas os métodos de avaliação atuais tendem a produzir provas longas de conjeturas famosas, enquanto as ideias que podem surgir durante a exploração dessas conjeturas talvez sejam mais importantes.

Dois amigos disseram-me que os matemáticos se queixam das provas de IA como os escavadores se queixam de serem substituídos por escavadoras. Eu acho que essa analogia deve ser colocada no contexto de escavação arqueológica. As escavadoras são de facto mais rápidas, mas podem danificar artefactos preciosos. Esses artefactos, se escavados por um grupo de trabalhadores muito mais lentos, seriam bem preservados.

China Newsweek: A declaração da OpenAI sobre as equações N-S gerou muita controvérsia. Buckmaster alega que a OpenAI só mobilizou os seus modelos para "tomar a dianteira" depois de saber do progresso da sua equipa. Como vê este tipo de incidente?

Smirnov: Já vimos que alguns grandes modelos se apropriam de ideias de outros sem indicar a autoria, ou usam ideias não publicadas. Se fosse um matemático humano, isso seria considerado uma violação grave da ética académica. Alguns acham aceitável que a IA copie humanos, mas eu não concordo com essa visão.

Mas a questão mais importante agora é que diferentes grupos e indivíduos têm opiniões completamente diferentes sobre isto. Precisamos mesmo de criar novas regras para resolver estes conflitos. Devemos perceber que o desenvolvimento futuro da IA pode levar a mudanças significativas no seu modo de funcionamento, pelo que a nossa compreensão da IA também precisa de ser constantemente revista. Numa perspetiva positiva, podemos procurar diálogo e equilíbrio entre todas as partes interessadas, mas isso exige esforço.

China Newsweek: A declaração não defende a eliminação da IA e reconhece que a IA tem potencial para ajudar e acelerar a investigação matemática. Como seria a ferramenta de IA ideal para a investigação matemática, na sua opinião?

Smirnov: A IA é muito boa a compreender informação conhecida, a fazer experiências e a testar se os métodos existentes podem resolver os problemas atuais. Mas não é boa em avaliar a eficácia de novos métodos ou a propor ideias verdadeiramente inovadoras. No entanto, o seu nível está a melhorar rapidamente, e estimo que nos próximos anos teremos de ajustar os métodos de investigação tradicionais. Mas estou certo de que encontraremos muitas utilizações para a inteligência artificial, que trarão benefícios não só à ciência e à sociedade, mas também ao desenvolvimento das próprias empresas de IA.

A igualdade de acesso ainda não chegou

China Newsweek: Entre os recentes avanços matemáticos impulsionados por IA, qual progresso específico mais o surpreendeu? Porque é tão preocupante?

Smirnov: Até agora, não vi nada que me surpreendesse particularmente. Alguns problemas que realmente me interessam parecem ainda estar além das capacidades da IA. A minha maior preocupação é que o foco excessivo em obter provas, em vez de compreender os objetivos da investigação, possa prejudicar tanto a própria ciência como as suas potenciais aplicações.

China Newsweek: Se os alunos puderem obter provas diretamente da IA, conseguirão ainda receber formação matemática suficiente? O processo de enfrentar dificuldades, lutar e acabar por encontrar a resposta por si próprios ainda é importante?

Smirnov: Mesmo para investigadores experientes, a IA pode causar grandes danos. Um amigo académico confessou que, após um ano a usar IA para gerar exercícios e respostas para os cursos, descobriu que a sua capacidade de resolver problemas ao nível dos alunos tinha piorado muito. Acho que a maioria dos alunos está ciente deste risco e tenta resolver os problemas por si, usando a IA apenas como uma dica.

China Newsweek: Se a IA puder produzir conclusões matemáticas em grande escala, qual é o significado do trabalho dos matemáticos humanos? A velocidade com que os humanos digerem essas conclusões tornar-se-á o novo gargalo do progresso matemático?

Smirnov: A forma como a IA investiga e resolve problemas atualmente tende mais para uma abordagem formal. Talvez o resultado final possa ser compreendido, mas por quem? Uma possibilidade é que estejamos a assistir ao nascimento de um novo tipo de trabalho científico, ou seja, extrair ideias de textos gerados por IA. Será que a própria IA consegue realmente gerar novas ideias? Atualmente, a resposta é não, mas não sei dizer.

China Newsweek: Ao usar IA para gerar provas matemáticas, é mais difícil fazer citações adequadas de investigações anteriores? A longo prazo, isso levará a uma rutura na continuidade do conhecimento humano?

Smirnov: Em princípio, sim, especialmente quando os humanos não conseguem compreender as provas da IA. Mas se encontrarmos formas de evitar essa situação e encontrarmos uma boa colaboração homem-máquina, a IA pode tornar-se uma ferramenta muito útil.

Tentei aplicar a IA aos meus próprios problemas de investigação, mas os modelos mais avançados ainda parecem pouco práticos, talvez porque lhes falta alguma compreensão essencial. No entanto, a IA é uma excelente ferramenta para pesquisar informação conhecida numa área ou para rever artigos.

China Newsweek: Alguns podem considerar que a série de acontecimentos recentes é uma consequência inevitável da democratização do conhecimento pela IA. O que pensa?

Smirnov: Ainda não vejo muita democratização; a maioria dos avanços é feita com modelos não públicos. Na verdade, se as empresas de IA partilhassem recursos com os matemáticos, em vez de quererem fazer tudo sozinhas, a situação seria provavelmente muito melhor. Acredito que isso acontecerá em breve. Acabará por haver algum consenso entre as empresas de IA e os matemáticos, e a democratização virá a seguir.