数学は破壊されるのか？25人が連名で警告、フィールズ賞受賞者が独占回答

記者：周遊、中国新聞週刊

編集：杜瑋

運営編集：王琳

現地時間9月11日、陶哲軒、鄧煜を含む25人のフィールズ賞受賞者が連名で「人工知能の数学における深刻なずれ」と題する声明を発表し、OpenAI、AnthropicなどのAI企業と数学界の「大戦」を最高潮に導いた。声明は、AI企業が数学の難問解決をモデル能力のベンチマークとする手法は、数学科学そのものと数学界に損害を与え、数学コミュニティが追求する概念理解という根本的目標と著しく乖離していると述べた。

この乖離は最近ますます顕著になっている。9月8日、OpenAIは非公開の内部AIモデルが88時間でナビエ–ストークス方程式（N-S方程式）の存在と正則性の問題を解決したと主張した。N-S方程式は流体の運動を記述する中核的な方程式であり、天気予報や航空機設計などに広く応用されている。米国のクレイ数学研究所（CMI）は2000年に、その存在と正則性の問題を7つのミレニアム懸賞問題の一つに指定し、100万ドルの懸賞金をかけている。

しかし、ニューヨーク大学の数学者トリスタン・バックマスターとAnthropicの研究員レヴェント・アルポゲは、すでに関連問題で重要な進展を遂げており、9月7日に成果を公開していた。バックマスターはその後OpenAIを批判し、彼らの進展を聞きつけてから投入を強化したと主張した。彼は、未発表の草稿や導出をOpenAIのコードツールで使用したことがあり、OpenAIのモデルに「盗み見」された疑いがあると明かした。OpenAI側はこの主張を否定したが、ユーザーデータがモデル訓練に間接的に影響した可能性を完全には排除できないと認めた。現在、OpenAIはCMIの懸賞金を請求する意向はない。数学界はまだOpenAIの証明に正式な承認を与えていない。

OpenAIの手法は、学術的優先権、データ倫理、AI科学研究の境界をめぐる激しい論争を即座に引き起こした。今年5月以降、すでに複数の数学の難問がAIによって攻略されており、OpenAIは最近、別のミレニアム懸賞問題であるホッジ予想に目を向けたと明らかにした。

AIは人類の数学の「灯台」を次々と消している。スイス・ジュネーブ大学教授のスタニスラフ・スミルノフは2010年のフィールズ賞受賞者であり、声明の25人の署名者の一人でもある。9月12日、彼は『中国新聞週刊』の独占インタビューに応じた。

スタニスラフ・スミルノフ 図/ビデオスクリーンショット

「土を掘る労働者が掘削機に取って代わられると嘆くようなもの」

『中国新聞週刊』：声明は起草から発表までわずか数日でしたが、これほど緊迫した主な理由は何ですか？

スミルノフ：ほとんどの同僚は、事態がこれほど急速に進展するとは予想しておらず、これほど大きな論争を引き起こすとも予想していませんでした。AIの発展がこれほど速いことを考えると、私たちは今すぐ迅速に行動し、未来に向けたゲームのルールを策定する必要があります。

『中国新聞週刊』：声明では「深刻な逸脱」という言葉が使われていますが、AI企業の数学的目標と数学界自身が掲げる数学的目標の間にはどのような根本的な相違がありますか？

スミルノフ：まず私たちが答えなければならない問いは、社会が数学研究を支援する目的は何か、ということです。数学は音楽や芸術と同様に、人類文化の重要な構成要素であり、他の多くの学問や技術の基盤でもあります。多くの数学者にとって、数学の文化的・芸術的価値が最も重要です。

数学から生まれた多くの社会的応用は、携帯電話、航空機、機械学習そのものに至るまで、当初は科学の美を追求するために創造されました。これまで、AI企業は数学を大規模モデルの能力を測る指標として用いてきましたが、それは理解できます。これらのモデルは非常に強力になり、適切な評価基準を見つけるのが難しくなっています。しかし、現在の評価方法は、有名な予想の長大な証明を生成することが多く、それらの予想を探求する過程で生まれ得るアイデアの方がおそらく重要です。

かつて2人の友人が私に言いました。数学者がAIの証明に不平を言うのは、土を掘る労働者が掘削機に取って代わられると嘆くようなものだと。私はむしろ、この比喩を考古学の発掘の場面に置くべきだと思います。掘削機の速度は確かに速いですが、貴重な文化財を破壊する可能性があります。これらの文化財は、はるかに遅い速度で作業する労働者のグループによって発掘されれば、よく保存されるでしょう。

『中国新聞週刊』：OpenAIのN-S方程式に関する声明は多くの論争を引き起こしました。バックマスターは、OpenAIが彼のチームの進展を知ってからモデルを動員して「先を越した」と主張しています。このような出来事をどう見ますか？

スミルノフ：私たちはすでに、一部の大規模モデルが著者を明記せずに他人のアイデアを流用したり、未発表のアイデアを使用したりするのを目にしています。もし人間の数学者であれば、これは学術倫理の重大な違反とみなされるでしょう。AIが人間を模倣することは許容されると考える人もいますが、私はその見解に同意しません。

しかし、現在より重要な問題は、異なるグループや個人がこれについてまったく異なる見解を持っていることです。私たちは確かに、このような衝突を解決するための新しいルールを策定する必要があります。AIのさらなる発展がその運用方法に大きな変化をもたらす可能性があることを認識すべきであり、したがってAIに対する私たちの理解も絶えず修正する必要があります。肯定的な見方をすれば、すべての利害関係者間の対話とバランスを模索することができますが、それには努力が必要です。

『中国新聞週刊』：声明はAIの排除を提唱しておらず、AIが数学研究を支援・加速する可能性を認めています。あなたが理想とする数学研究に適したAIツールとはどのようなものですか？

スミルノフ：AIは既知の情報を理解し、実験を行い、既存の方法が現在の問題を解決できるかどうかを検証することに非常に長けています。しかし、新しい方法の有効性を判断したり、真に斬新なアイデアを提案したりすることは苦手です。とはいえ、そのレベルは急速に向上しており、今後数年で従来の研究方法を調整せざるを得なくなるだろうと私は見積もっています。しかし、科学と社会に利益をもたらすだけでなく、AI企業自身の発展にも有利な、人工知能の多くの用途を見つけられると確信しています。

平等はまだ到来していない

『中国新聞週刊』：最近のAIによる数学的ブレークスルーの中で、どの具体的な進展が最も驚きでしたか？なぜそれほど懸念されるのですか？

スミルノフ：今のところ、私が特に驚いたものはありません。私が本当に関心を持つ問題のいくつかは、依然としてAIの能力の範囲を超えているようです。私が最も懸念するのは、研究目標の理解よりも証明の導出に重点を置きすぎることが、科学そのものとその潜在的な応用の両方に損害を与える可能性があることです。

『中国新聞週刊』：学生がAIから直接証明を得られるなら、十分な数学的訓練を受けられるのでしょうか？困難に直面し、苦闘し、最終的に自分で答えを見つけるプロセスはまだ重要ですか？

スミルノフ：経験豊富な研究者にとっても、AIは大きな害を及ぼす可能性があります。私の学者の友人の一人は、1年間AIを使って授業の練習問題と解答を生成した後、学生レベルの問題を解く自分の能力がかなり低下したことに気づいたと打ち明けました。私は、ほとんどの学生がこのリスクを認識しており、自分で問題を解こうとし、AIをヒントとしてのみ使用していることに気づきました。

『中国新聞週刊』：AIが数学の結論を大規模に生産できるなら、人間の数学者の仕事の意味は何ですか？人間がこれらの結論を消化する速度が数学の進歩の新たなボトルネックになるのでしょうか？

スミルノフ：AIが現在問題を研究し突破する方法は、より形式的なものに偏っています。おそらく最終結果は理解できるかもしれませんが、誰が理解するのでしょうか？一つの可能性として、私たちはAIが生成したテキストからアイデアを掘り起こすという、まったく新しい科学的作業の誕生を目撃しているのかもしれません。AI自体が本当に新しいアイデアを生み出せるのでしょうか？現時点では、それは否定的ですが、確かなことは言えません。

『中国新聞週刊』：AIを使って数学的証明を生成する際、先行研究の適切な引用はより困難になりますか？長期的には、人類の知識の連続性の断絶につながるのでしょうか？

スミルノフ：原則的にはその通りです。特に人間がAIの証明を理解できない場合には。しかし、このような事態を避ける方法を見つけ、良好な人間と機械の協働方法を見つければ、AIはむしろ非常に有用なツールになり得ます。

私は自分の研究問題にAIを応用しようと試みましたが、現在の最先端モデルはまだあまり実用的ではないようです。おそらく、いくつかの重要な理解が欠けているためでしょう。ただし、AIはある分野の既知の情報を検索したり、文章を校正したりするのには優れたツールです。

『中国新聞週刊』：最近の一連の出来事はAIによる知識の平等化の必然的な結果だと考える人もいるかもしれません。どう思いますか？

スミルノフ：私はまだ平等化をあまり見ていません。ほとんどの進展は、非公開のモデルを利用して達成されています。実際、AI企業が数学者とリソースを共有し、すべてを自分たちでやろうとしなければ、状況ははるかに良くなるかもしれません。これはすぐに実現すると信じています。AI企業と数学者の間には最終的に何らかの合意が生まれ、平等化もそれに伴って到来するでしょう。