수학이 파괴되고 있는가? 25인 공동 경고, 필즈상 수상자 단독 응답

기자: 저우유, 중국뉴스위크

편집: 두웨이

운영 편집: 왕린

현지시간 9월 11일, 타오저쉬안, 덩위를 포함한 25명의 필즈상 수상자가 공동으로 《인공지능의 수학에서의 심각한 불일치》 성명을 발표하여, OpenAI, Anthropic 등 AI 기업과 수학계 간의 '대전'을 정점으로 끌어올렸다. 성명은 AI 기업이 수학 난제 해결을 모델 능력의 기준으로 삼는 방식이 수학 과학 자체와 수학계에 손해를 끼치며, 수학 공동체가 추구하는 개념적 이해라는 근본 목표와 현저한 괴리가 있다고 밝혔다.

이러한 괴리는 최근 더욱 뚜렷해지고 있다. 9월 8일, OpenAI는 공개되지 않은 내부 AI 모델이 88시간 만에 나비에-스토크스 방정식(N-S 방정식)의 존재성과 매끄러움 문제를 해결했다고 주장했다. N-S 방정식은 유체 운동을 설명하는 핵심 방정식으로, 날씨 예보, 항공기 설계 등에 널리 응용된다. 미국 클레이 수학연구소(CMI)는 2000년에 이 방정식의 존재성과 매끄러움 문제를 7대 밀레니엄 난제 중 하나로 선정하고 100만 달러의 상금을 걸었다.

그러나 뉴욕대학교 수학자 트리스탄 벅마스터와 Anthropic 연구원 레벤트 알퍼게는 이미 관련 문제에서 핵심적인 진전을 이루었고, 9월 7일에 그 성과를 공개했다. 벅마스터는 이후 OpenAI를 비판하며, 그들이 자신들의 진전 소식을 듣고 나서야 투자를 확대했다고 주장했다. 그는 자신이 발표하지 않은 초고와 유도 과정을 OpenAI의 코드 도구에 사용했으며, OpenAI 모델이 이를 '엿봤을' 가능성을 의심한다고 밝혔다. OpenAI 측은 이 주장을 부인했지만, 사용자 데이터가 모델 훈련에 간접적인 역할을 했을 가능성을 완전히 배제할 수는 없다고 인정했다. 현재 OpenAI는 CMI 상금을 신청할 계획이 없다. 수학계는 아직 OpenAI의 증명에 대해 공식적인 인정을 내놓지 않았다.

OpenAI의 행보는 학문적 우선권, 데이터 윤리, AI 연구 경계에 대한 격렬한 논쟁을 빠르게 촉발했다. 올해 5월 이후 이미 여러 수학 난제가 AI에 의해 해결되었으며, OpenAI는 최근 또 다른 밀레니엄 난제인 호지 추측으로 눈을 돌렸다고 밝혔다.

AI는 계속해서 인류 수학의 '등대'를 꺼뜨리고 있다. 스위스 제네바대학교 교수 스타니슬라프 스미르노프는 2010년 필즈상 수상자이자 성명의 25명 서명자 중 한 명이다. 9월 12일, 그는 《중국뉴스위크》와의 단독 인터뷰에 응했다.

스타니슬라프 스미르노프 사진/영상 캡처

"땅 파는 인부가 굴착기에 대체된다고 불평하는 것처럼"

《중국뉴스위크》: 성명이 초안부터 발표까지 며칠밖에 걸리지 않았는데, 그렇게 서두른 주된 이유는 무엇인가?

스미르노프: 대부분의 동료들은 이 일이 그렇게 빨리 진행될 것이라고 예상하지 못했고, 그렇게 큰 논란을 일으킬 것이라고도 예상하지 못했다. AI가 이렇게 빠르게 발전하는 상황에서, 우리는 지금 신속하게 행동하여 미래를 위한 게임 규칙을 만들어야 한다.

《중국뉴스위크》: 성명에서 '심각한 편차'라는 표현을 사용했는데, AI 기업의 수학 목표와 수학계 자체가 지향하는 수학 목표 사이의 근본적인 괴리는 무엇인가?

스미르노프: 먼저 우리가 답해야 할 질문은 이것이다. 사회가 수학 연구를 지원하는 목적은 무엇인가? 수학은 음악이나 예술과 마찬가지로 인류 문화의 중요한 구성 요소이며, 다른 많은 학문과 기술의 기반이기도 하다. 많은 수학자에게 수학의 문화적, 예술적 가치가 가장 중요하다.

휴대전화, 비행기, 기계 학습 자체에 이르기까지 수학에서 비롯된 많은 사회적 응용은 처음에는 과학의 아름다움을 추구하기 위해 창조되었다. 지금까지 AI 기업이 수학을 대형 모델의 능력을 측정하는 지표로 삼는 것은 이해할 수 있다. 이 모델들은 매우 강력해져서 적절한 평가 기준을 찾기가 어려워졌다. 그러나 현재의 평가 방법은 종종 유명한 추측에 대한 장황한 증명을 산출하는 것이며, 그러한 추측을 탐구하는 과정에서 나타날 수 있는 아이디어가 더 중요할 수 있다.

두 친구가 내게 말하기를, 수학자들이 AI 증명에 대해 불평하는 것은 마치 땅을 파는 인부가 굴착기에 대체된다고 불평하는 것과 같다고 했다. 나는 오히려 이 비유를 고고학 발굴 현장에 적용해야 한다고 생각한다. 굴착기는 확실히 더 빠르지만, 귀중한 유물을 훼손할 수 있다. 이 유물들은 훨씬 느리게 일하는 인부들이 발굴한다면 잘 보존될 것이다.

《중국뉴스위크》: OpenAI의 N-S 방정식에 대한 발표는 많은 논란을 불러일으켰다. 벅마스터는 OpenAI가 자신의 팀이 진전을 이루었다는 소식을 듣고 나서야 모델을 동원해 '앞서가기'에 나섰다고 주장한다. 이러한 사건을 어떻게 보는가?

스미르노프: 우리는 이미 일부 대형 모델이 저자를 밝히지 않고 타인의 아이디어를 도용하거나, 발표되지 않은 아이디어를 사용하는 것을 목격했다. 만약 인간 수학자라면 이는 학문 윤리에 대한 심각한 위반으로 간주될 것이다. 어떤 사람들은 AI가 인간을 표절하는 것이 용납될 수 있다고 생각하지만, 나는 그 견해에 동의하지 않는다.

그러나 현재 더 중요한 문제는 서로 다른 집단과 개인들이 이에 대해 전혀 다른 견해를 가지고 있다는 점이다. 우리는 이러한 갈등을 해결하기 위한 새로운 규칙을 마련해야 한다. AI의 추가 발전으로 인해 그 작동 방식에 중대한 변화가 생길 수 있음을 인식해야 하며, 따라서 AI에 대한 우리의 이해도 지속적으로 수정되어야 한다. 긍정적인 시각으로 보면, 우리는 모든 이해관계자 간의 대화와 균형을 모색할 수 있지만, 이를 위해서는 노력이 필요하다.

《중국뉴스위크》: 성명은 AI를 배제하는 것을 주장하지 않으며, AI가 수학 연구를 돕고 가속화할 잠재력이 있음을 인정한다. 당신이 이상적으로 생각하는 수학 연구에 적합한 AI 도구는 어떤 모습인가?

스미르노프: AI는 알려진 정보를 이해하고, 실험을 수행하고, 기존 방법이 현재 문제를 해결할 수 있는지 검증하는 데 매우 뛰어나다. 그러나 새로운 방법의 효과를 판단하거나 진정으로 새로운 아이디어를 제안하는 데는 능숙하지 않다. 하지만 그 수준은 빠르게 향상되고 있으며, 앞으로 몇 년 안에 우리는 전통적인 연구 방법을 조정해야 할 것으로 예상한다. 그러나 나는 우리가 인공지능의 많은 용도를 찾을 수 있을 것이라고 확신하며, 그러한 용도는 과학과 사회뿐만 아니라 AI 기업 자체의 발전에도 도움이 될 것이다.

평등은 아직 오지 않았다

《중국뉴스위크》: 최근 AI가 주도한 수학적 돌파구 중에서 어떤 구체적인 진전이 가장 놀라웠는가? 왜 그렇게 우려되는가?

스미르노프: 지금까지 나를 특별히 놀라게 한 것은 보지 못했다. 내가 진정으로 관심을 가지는 문제들은 여전히 AI의 능력 범위를 벗어나는 것 같다. 내가 가장 우려하는 것은 증명을 도출하는 데 지나치게 집중하고 연구 목표를 이해하지 못하는 것이 과학 자체와 잠재적 응용 모두에 해를 끼칠 수 있다는 점이다.

《중국뉴스위크》: 학생들이 AI에서 직접 증명을 얻을 수 있다면, 그들은 여전히 충분한 수학 훈련을 받을 수 있는가? 어려움에 부딪혀 고군분투하고 결국 스스로 답을 찾는 과정이 여전히 중요한가?

스미르노프: 경험이 풍부한 연구자에게도 AI는 큰 해를 끼칠 수 있다. 내 학자 친구 한 명은 1년 동안 AI를 사용하여 강의 연습문제와 답안을 생성한 후, 학생 수준의 문제를 해결하는 자신의 능력이 매우 나빠졌다는 것을 알게 되었다고 솔직하게 말했다. 나는 대부분의 학생들이 이러한 위험을 인식하고 있으며, 스스로 문제를 해결하려고 노력하고 AI를 힌트로만 사용한다는 것을 알게 되었다.

《중국뉴스위크》: AI가 수학적 결론을 대량으로 생산할 수 있다면, 인간 수학자의 작업 의미는 무엇인가? 인간이 이러한 결론을 소화하는 속도가 수학 발전의 새로운 병목이 될 것인가?

스미르노프: AI가 현재 문제를 연구하고 돌파하는 방식은 더 형식적인 측면에 치우쳐 있다. 최종 결과는 이해될 수 있을지 모르지만, 누가 이해할 것인가? 한 가지 가능성은 우리가 AI가 생성한 텍스트에서 아이디어를 발굴하는 완전히 새로운 과학 작업의 탄생을 목격하고 있다는 것이다. AI 자체가 정말로 새로운 아이디어를 만들어낼 수 있는가? 현재로서는 그렇지 않다고 생각하지만, 확신할 수는 없다.

《중국뉴스위크》: AI를 사용하여 수학 증명을 생성할 때, 선행 연구에 대한 적절한 인용이 더 어려워지는가? 장기적으로 이것이 인류 지식의 연속성 단절로 이어질 것인가?

스미르노프: 원칙적으로는 그렇다. 특히 인간이 AI 증명을 이해할 수 없을 때 더욱 그렇다. 그러나 우리가 이러한 상황을 피할 방법을 찾고, 좋은 인간-기계 협력 방식을 찾는다면, AI는 오히려 매우 유용한 도구가 될 수 있다.

나는 AI를 내 연구 문제에 적용해 보았지만, 현재 최첨단 모델은 여전히 실용적이지 않은 것 같다. 아마도 몇 가지 핵심적인 이해가 부족하기 때문일 것이다. 하지만 AI는 특정 분야의 알려진 정보를 검색하거나 글을 교정하는 데 탁월한 도구이다.

《중국뉴스위크》: 어떤 사람들은 최근의 일련의 사건을 AI 지식 평등의 필연적 결과로 볼 수 있다고 생각할 수 있다. 어떻게 생각하는가?

스미르노프: 나는 아직 평등을 거의 보지 못했다. 대부분의 진전은 공개되지 않은 모델을 사용하여 이루어졌다. 사실 AI 기업이 모든 것을 스스로 하려고 하기보다는 수학자들과 자원을 공유한다면 상황이 훨씬 나아질 수 있다. 나는 이것이 곧 실현될 것이라고 믿는다. AI 기업과 수학자들 사이에 결국 어떤 합의가 이루어질 것이며, 평등도 따라올 것이다.