Les mathématiques détruites ? 25 lauréats de la médaille Fields alertent, un lauréat répond en exclusivité

Journaliste : Zhou You, China Newsweek

Rédacteur : Du Wei

Rédacteur opérationnel : Wang Lin

Le 11 septembre, heure locale, 25 lauréats de la médaille Fields, dont Terence Tao et Deng Yu, ont publié une déclaration commune intitulée « Graves dérives de l'intelligence artificielle en mathématiques », portant à son paroxysme la « guerre » entre des entreprises d'IA comme OpenAI et Anthropic et la communauté mathématique. La déclaration affirme que l'utilisation par les entreprises d'IA de la résolution de problèmes mathématiques comme référence pour évaluer les capacités de leurs modèles nuit à la science mathématique elle-même et à la communauté mathématique, et s'écarte considérablement de l'objectif fondamental de la communauté mathématique, qui est la compréhension conceptuelle.

Cette divergence est devenue de plus en plus évidente récemment. Le 8 septembre, OpenAI a annoncé que son modèle d'IA interne non divulgué avait résolu en 88 heures le problème de l'existence et de la régularité des équations de Navier-Stokes (équations N-S). Les équations N-S sont des équations fondamentales décrivant le mouvement des fluides, largement utilisées dans les prévisions météorologiques, la conception d'avions, etc. Le Clay Mathematics Institute (CMI) américain a classé en 2000 le problème de l'existence et de la régularité parmi les sept problèmes du prix du millénaire, avec une récompense d'un million de dollars.

Cependant, le mathématicien de l'université de New York Tristan Buckmaster et le chercheur d'Anthropic Levent Alpöge avaient déjà réalisé des progrès clés sur des questions connexes et avaient publié leurs résultats le 7 septembre. Buckmaster a ensuite critiqué OpenAI, estimant que l'entreprise n'avait intensifié ses efforts qu'après avoir eu vent de leurs progrès. Il a révélé qu'il avait utilisé des brouillons et des dérivations non publiés dans l'outil de codage d'OpenAI, et qu'il soupçonnait que le modèle d'OpenAI avait consulté ses brouillons sans autorisation. OpenAI a nié cette affirmation, mais a admis qu'il ne pouvait pas exclure complètement un rôle indirect des données des utilisateurs dans l'entraînement des modèles. Actuellement, OpenAI n'a pas l'intention de réclamer la récompense du CMI. La communauté mathématique n'a pas encore officiellement reconnu la preuve d'OpenAI.

L'approche d'OpenAI a rapidement déclenché un débat intense sur la priorité académique, l'éthique des données et les limites de la recherche scientifique par l'IA. Depuis mai de cette année, plusieurs problèmes mathématiques ont été résolus par l'IA, et OpenAI a récemment révélé qu'il s'intéressait désormais à un autre problème du prix du millénaire, la conjecture de Hodge.

L'IA ne cesse d'éteindre les « lumières » des mathématiques humaines. Stanislav Smirnov, professeur à l'université de Genève en Suisse, lauréat de la médaille Fields en 2010 et l'un des 25 signataires de la déclaration, a accordé le 12 septembre une interview exclusive à China Newsweek.

Stanislav Smirnov. Photo/capture vidéo

« Comme des terrassiers qui se plaignent d'être remplacés par des excavatrices »

China Newsweek : La déclaration n'a mis que quelques jours entre sa rédaction et sa publication. Quelle est la principale raison de cette urgence ?

Smirnov : La plupart de mes collègues ne s'attendaient pas à ce que les choses évoluent aussi rapidement, ni à ce que cela suscite une telle controverse. Étant donné la rapidité du développement de l'IA, nous devons agir vite pour établir des règles pour l'avenir.

China Newsweek : La déclaration utilise le terme « graves dérives ». Quelle est la divergence fondamentale entre les objectifs mathématiques des entreprises d'IA et ceux de la communauté mathématique elle-même ?

Smirnov : La première question à se poser est : pourquoi la société soutient-elle la recherche mathématique ? Les mathématiques, comme la musique et l'art, sont une composante importante de la culture humaine et le fondement de nombreuses autres disciplines et technologies. Pour de nombreux mathématiciens, la valeur culturelle et artistique des mathématiques est primordiale.

De nombreuses applications sociales issues des mathématiques, des téléphones portables aux avions en passant par l'apprentissage automatique lui-même, ont été créées à l'origine par amour de la science. Jusqu'à présent, les entreprises d'IA utilisent les mathématiques comme indicateur pour mesurer les capacités des grands modèles, ce qui est compréhensible. Ces modèles sont devenus si puissants qu'il est difficile de trouver des critères d'évaluation appropriés. Mais les méthodes d'évaluation actuelles produisent souvent de longues preuves de conjectures célèbres, alors que les idées qui pourraient émerger de l'exploration de ces conjectures sont peut-être plus importantes.

Deux amis m'ont dit que les mathématiciens qui se plaignent des preuves par l'IA, c'est comme des terrassiers qui se plaignent d'être remplacés par des excavatrices. Je pense plutôt qu'il faudrait replacer cette métaphore dans le contexte de fouilles archéologiques. Les excavatrices sont certes plus rapides, mais elles risquent d'endommager des artefacts précieux. Ces artefacts, s'ils étaient mis au jour par un groupe d'ouvriers travaillant beaucoup plus lentement, seraient bien préservés.

China Newsweek : La déclaration d'OpenAI sur les équations N-S a suscité de nombreuses controverses. Buckmaster affirme qu'OpenAI n'a mobilisé son modèle pour « prendre de l'avance » qu'après avoir appris les progrès de son équipe. Que pensez-vous de ce genre d'événement ?

Smirnov : Nous avons déjà vu de grands modèles s'approprier les idées d'autrui sans en citer les auteurs, ou utiliser des idées non publiées. S'il s'agissait de mathématiciens humains, cela serait considéré comme une grave violation de l'éthique académique. Certains pensent qu'il est acceptable que l'IA plagie les humains, mais je ne partage pas ce point de vue.

Mais la question la plus importante actuellement est que différents groupes et individus ont des opinions radicalement différentes à ce sujet. Nous devons effectivement élaborer de nouvelles règles pour résoudre ce type de conflits. Nous devons être conscients que le développement ultérieur de l'IA pourrait entraîner des changements majeurs dans son fonctionnement, et que notre compréhension de l'IA doit donc être constamment mise à jour. D'un point de vue positif, nous pouvons rechercher le dialogue et l'équilibre entre toutes les parties prenantes, mais cela demande des efforts.

China Newsweek : La déclaration ne prône pas l'élimination de l'IA et reconnaît que l'IA a le potentiel d'aider et d'accélérer la recherche mathématique. Quel serait pour vous l'outil d'IA idéal pour la recherche mathématique ?

Smirnov : L'IA excelle dans la compréhension des informations connues, la conduite d'expériences et la vérification de l'efficacité des méthodes existantes pour résoudre les problèmes actuels. Mais elle est moins performante pour juger de la validité de nouvelles méthodes ou proposer des idées véritablement novatrices. Cependant, leur niveau s'améliore à une vitesse fulgurante, et j'estime que dans les prochaines années, nous devrons adapter nos méthodes de recherche traditionnelles. Mais je suis convaincu que nous trouverons de nombreuses utilisations de l'IA qui profiteront non seulement à la science et à la société, mais aussi au développement des entreprises d'IA elles-mêmes.

L'égalité d'accès n'est pas encore là

China Newsweek : Parmi les récentes percées mathématiques réalisées grâce à l'IA, quelle avancée concrète vous a le plus surpris ? Pourquoi est-elle si préoccupante ?

Smirnov : Jusqu'à présent, je n'ai rien vu qui m'ait particulièrement surpris. Certains problèmes qui m'intéressent vraiment semblent encore dépasser les capacités de l'IA. Ce qui m'inquiète le plus, c'est que l'accent excessif mis sur l'obtention de preuves, plutôt que sur la compréhension des objectifs de recherche, pourrait nuire à la fois à la science elle-même et à ses applications potentielles.

China Newsweek : Si les étudiants peuvent obtenir directement des preuves auprès de l'IA, recevront-ils encore une formation mathématique suffisante ? Le processus de lutte face aux difficultés et de recherche de la réponse par soi-même est-il encore important ?

Smirnov : Même pour les chercheurs expérimentés, l'IA peut causer de grands dommages. Un de mes amis universitaires a avoué qu'après un an d'utilisation de l'IA pour générer des exercices et des corrigés pour ses cours, il avait constaté que sa propre capacité à résoudre des problèmes du niveau de ses étudiants avait nettement diminué. Je constate que la plupart des étudiants sont conscients de ce risque et essaient de résoudre les problèmes par eux-mêmes, en n'utilisant l'IA que comme une aide.

China Newsweek : Si l'IA peut produire en masse des résultats mathématiques, quel est alors le sens du travail des mathématiciens humains ? La vitesse à laquelle les humains digèrent ces résultats deviendra-t-elle un nouveau goulot d'étranglement pour le progrès mathématique ?

Smirnov : La manière dont l'IA aborde et résout actuellement les problèmes est plutôt d'ordre formel. Peut-être que le résultat final peut être compris, mais par qui ? Il est possible que nous assistions à la naissance d'un tout nouveau type de travail scientifique, consistant à extraire des idées de textes générés par l'IA. L'IA elle-même peut-elle vraiment produire de nouvelles idées ? Pour l'instant, la réponse est non, mais je ne peux pas l'affirmer avec certitude.

China Newsweek : Lors de l'utilisation de l'IA pour générer des preuves mathématiques, est-il plus difficile de citer correctement les recherches antérieures ? À long terme, cela pourrait-il entraîner une rupture dans la continuité du savoir humain ?

Smirnov : En principe, oui, surtout lorsque les humains ne peuvent pas comprendre les preuves de l'IA. Mais si nous trouvons des moyens d'éviter cette situation et une bonne forme de collaboration homme-machine, l'IA pourrait au contraire devenir un outil très utile.

J'ai essayé d'appliquer l'IA à mes propres problèmes de recherche, mais les modèles les plus avancés semblent encore peu utiles, peut-être parce qu'il leur manque une compréhension clé. Cependant, l'IA est un excellent outil pour rechercher des informations connues dans un domaine ou pour relire des articles.

China Newsweek : Certains pourraient considérer que la série d'événements récents est une conséquence inévitable de la démocratisation du savoir par l'IA. Qu'en pensez-vous ?

Smirnov : Je n'ai pas encore vu beaucoup d'égalité d'accès, la plupart des progrès étant réalisés avec des modèles non publics. En fait, si les entreprises d'IA partageaient leurs ressources avec les mathématiciens au lieu de vouloir tout faire elles-mêmes, la situation serait peut-être bien meilleure. Je suis convaincu que cela arrivera bientôt. Les entreprises d'IA et les mathématiciens finiront par parvenir à un consensus, et l'égalité d'accès suivra.