Wird die Mathematik zerstört? 25 Fields-Medaillen-Gewinner warnen – ein Preisträger antwortet exklusiv

Reporter: Zhou You, China News Weekly

Redakteur: Du Wei

Betriebsredakteur: Wang Lin

Am 11. September Ortszeit veröffentlichten 25 Fields-Medaillen-Gewinner, darunter Terence Tao und Deng Yu, gemeinsam die Erklärung „Schwerwiegende Fehlausrichtung der künstlichen Intelligenz in der Mathematik“ und trieben damit einen „Krieg“ zwischen KI-Unternehmen wie OpenAI und Anthropic und der Mathematik-Community auf den Höhepunkt. In der Erklärung heißt es, dass die Praxis der KI-Unternehmen, das Lösen mathematischer Probleme als Maßstab für die Modellfähigkeiten zu verwenden, der mathematischen Wissenschaft selbst und der Mathematik-Community Schaden zufüge und in deutlichem Widerspruch zum grundlegenden Ziel der mathematischen Gemeinschaft stehe, konzeptionelles Verständnis zu verfolgen.

Diese Divergenz ist in letzter Zeit immer deutlicher geworden. Am 8. September behauptete OpenAI, dass sein internes KI-Modell das Existenz- und Glattheitsproblem der Navier-Stokes-Gleichungen (N-S-Gleichungen) in 88 Stunden gelöst habe. Die N-S-Gleichungen sind die Kerngleichungen zur Beschreibung von Flüssigkeitsbewegungen und finden breite Anwendung in Bereichen wie Wettervorhersage und Flugzeugdesign. Das Clay Mathematics Institute (CMI) in den USA stufte das Existenz- und Glattheitsproblem im Jahr 2000 als eines der sieben Millennium-Probleme ein und setzte ein Preisgeld von 1 Million US-Dollar aus.

Allerdings hatten der Mathematiker Tristan Buckmaster von der New York University und der Anthropic-Forscher Levent Alpöge bereits zuvor entscheidende Fortschritte bei verwandten Fragen erzielt und ihre Ergebnisse am 7. September veröffentlicht. Buckmaster kritisierte daraufhin OpenAI scharf und warf dem Unternehmen vor, erst nach Bekanntwerden ihrer Fortschritte massiv in das Problem investiert zu haben. Er gab an, unveröffentlichte Entwürfe und Ableitungen in OpenAIs Code-Tool verwendet zu haben, und vermutete, dass OpenAIs Modell diese „ausspioniert“ habe. OpenAI bestritt diese Behauptung, räumte jedoch ein, dass eine indirekte Rolle von Nutzerdaten im Modelltraining nicht vollständig ausgeschlossen werden könne. Derzeit hat OpenAI nicht die Absicht, das CMI-Preisgeld zu beanspruchen. Die Mathematik-Community hat OpenAIs Beweis noch nicht offiziell anerkannt.

OpenAIs Vorgehen löste rasch eine heftige Debatte über wissenschaftliche Priorität, Datenethik und die Grenzen der KI-Forschung aus. Seit Mai dieses Jahres wurden bereits mehrere mathematische Probleme von KI gelöst, und OpenAI gab kürzlich bekannt, dass es sich nun einem weiteren Millennium-Problem, der Hodge-Vermutung, zugewandt habe.

KI löscht weiterhin die „Orientierungspunkte“ der menschlichen Mathematik aus. Stanislav Smirnov, Professor an der Universität Genf, ist Fields-Medaillen-Gewinner von 2010 und einer der 25 Unterzeichner der Erklärung. Am 12. September gab er China News Weekly ein Exklusivinterview.

Stanislav Smirnov, Bild/Video-Screenshot

„Wie Erdarbeiter, die sich darüber beschweren, durch Bagger ersetzt zu werden“

China News Weekly: Von der Ausarbeitung bis zur Veröffentlichung der Erklärung vergingen nur wenige Tage. Was war der Hauptgrund für diese Dringlichkeit?

Smirnov: Die meisten Kollegen hatten nicht erwartet, dass sich diese Entwicklung so schnell vollziehen und eine so große Kontroverse auslösen würde. Angesichts der rasanten Entwicklung der KI müssen wir jetzt schnell handeln und zukunftsorientierte Spielregeln aufstellen.

China News Weekly: In der Erklärung wird der Begriff „schwerwiegende Abweichung“ verwendet. Worin besteht der grundlegende Unterschied zwischen den mathematischen Zielen der KI-Unternehmen und den Zielen, die die Mathematik-Community selbst verfolgt?

Smirnov: Zunächst müssen wir die Frage beantworten: Was ist der Zweck der gesellschaftlichen Unterstützung für die mathematische Forschung? Mathematik ist wie Musik und Kunst ein wichtiger Bestandteil der menschlichen Kultur und zugleich die Grundlage vieler anderer Disziplinen und Technologien. Für viele Mathematiker ist der kulturelle und künstlerische Wert der Mathematik am wichtigsten.

Viele gesellschaftliche Anwendungen, die aus der Mathematik hervorgegangen sind – vom Mobiltelefon über das Flugzeug bis hin zum maschinellen Lernen selbst – wurden ursprünglich aus dem Streben nach der Schönheit der Wissenschaft geschaffen. Bisher nutzen KI-Unternehmen Mathematik als Maßstab für die Fähigkeiten großer Modelle, was verständlich ist. Diese Modelle sind so leistungsfähig geworden, dass es schwierig ist, geeignete Bewertungsmaßstäbe zu finden. Doch die derzeitigen Bewertungsmethoden produzieren oft ausführliche Beweise für berühmte Vermutungen, während die Ideen, die bei der Erforschung dieser Vermutungen entstehen könnten, vielleicht wichtiger sind.

Zwei Freunde sagten mir einmal, Mathematiker, die sich über KI-Beweise beklagen, seien wie Erdarbeiter, die sich darüber beschweren, durch Bagger ersetzt zu werden. Ich würde diesen Vergleich eher in den Kontext archäologischer Ausgrabungen stellen. Bagger sind zwar schneller, können aber wertvolle Artefakte zerstören. Diese Artefakte würden gut erhalten, wenn sie von einer Gruppe viel langsamer arbeitender Arbeiter ausgegraben würden.

China News Weekly: OpenAIs Erklärung zu den N-S-Gleichungen hat viele Kontroversen ausgelöst. Buckmaster behauptet, OpenAI habe sein Modell erst nach Bekanntwerden der Fortschritte seines Teams eingesetzt, um ihnen „zuvorzukommen“. Wie sehen Sie solche Vorfälle?

Smirnov: Wir haben bereits gesehen, dass einige große Sprachmodelle Ideen anderer ohne Quellenangabe übernehmen oder unveröffentlichte Ideen verwenden. Bei menschlichen Mathematikern würde dies als schwerwiegender Verstoß gegen die akademische Ethik gelten. Manche meinen, es sei akzeptabel, dass KI Menschen plagiiert – diese Ansicht teile ich nicht.

Doch das wichtigere Problem ist derzeit, dass verschiedene Gruppen und Einzelpersonen dazu völlig unterschiedliche Ansichten haben. Wir brauchen tatsächlich neue Regeln, um solche Konflikte zu lösen. Wir sollten uns bewusst sein, dass die weitere Entwicklung der KI zu erheblichen Veränderungen in ihrer Funktionsweise führen kann, weshalb auch unser Verständnis von KI ständig angepasst werden muss. Positiv betrachtet können wir den Dialog und den Ausgleich zwischen allen Beteiligten anstreben, aber das erfordert Anstrengung.

China News Weekly: Die Erklärung plädiert nicht für ein Verbot von KI und erkennt an, dass KI das Potenzial hat, die mathematische Forschung zu unterstützen und zu beschleunigen. Wie sieht Ihr ideales KI-Tool für die mathematische Forschung aus?

Smirnov: KI ist sehr gut darin, bekannte Informationen zu verstehen, Experimente durchzuführen und zu prüfen, ob bestehende Methoden vorliegende Probleme lösen können. Aber sie ist nicht gut darin, die Wirksamkeit neuer Methoden zu beurteilen oder wirklich neuartige Ideen vorzuschlagen. Allerdings verbessern sich ihre Fähigkeiten rasant, und ich schätze, dass wir in den nächsten Jahren unsere traditionellen Forschungsmethoden anpassen müssen. Aber ich bin überzeugt, dass wir viele Anwendungen für KI finden werden, die nicht nur der Wissenschaft und der Gesellschaft zugutekommen, sondern auch den KI-Unternehmen selbst.

Wissensgleichberechtigung ist noch nicht erreicht

China News Weekly: Welcher konkrete Fortschritt unter den jüngsten durch KI erzielten mathematischen Durchbrüchen hat Sie am meisten überrascht? Warum ist er so besorgniserregend?

Smirnov: Bisher habe ich nichts gesehen, das mich besonders überrascht hat. Einige Fragen, die mich wirklich interessieren, scheinen immer noch jenseits der Fähigkeiten von KI zu liegen. Meine größte Sorge ist, dass eine zu starke Fokussierung auf das Erzielen von Beweisen statt auf das Verständnis der Forschungsziele sowohl der Wissenschaft selbst als auch ihren potenziellen Anwendungen schaden könnte.

China News Weekly: Wenn Studierende Beweise direkt von KI erhalten können, können sie dann noch eine ausreichende mathematische Ausbildung erwerben? Ist der Prozess, auf Schwierigkeiten zu stoßen, sich durchzubeißen und schließlich selbst die Antwort zu finden, noch wichtig?

Smirnov: Selbst für erfahrene Forscher kann KI erheblichen Schaden verursachen. Ein befreundeter Wissenschaftler gab zu, dass er nach einem Jahr, in dem er KI zur Erstellung von Übungsaufgaben und Lösungen für seine Kurse genutzt hatte, feststellte, dass seine eigene Fähigkeit, Probleme auf dem Niveau seiner Studierenden zu lösen, deutlich nachgelassen hatte. Ich habe festgestellt, dass die meisten Studierenden sich dieses Risikos bewusst sind; sie versuchen, Probleme selbst zu lösen, und nutzen KI nur als Hilfestellung.

China News Weekly: Wenn KI mathematische Ergebnisse in großem Umfang produzieren kann, welchen Sinn hat dann die Arbeit menschlicher Mathematiker? Wird die Geschwindigkeit, mit der Menschen diese Ergebnisse verarbeiten können, zum neuen Engpass des mathematischen Fortschritts?

Smirnov: Die Art und Weise, wie KI derzeit Probleme erforscht und durchbricht, ist eher formalistisch. Vielleicht kann das Ergebnis verstanden werden, aber von wem? Es ist möglich, dass wir die Geburt einer völlig neuen Art wissenschaftlicher Arbeit erleben, nämlich das Extrahieren von Ideen aus KI-generierten Texten. Kann KI selbst wirklich neue Ideen hervorbringen? Derzeit ist die Antwort nein, aber ich bin mir nicht sicher.

China News Weekly: Wird es bei der Verwendung von KI-generierten mathematischen Beweisen schwieriger, frühere Forschung angemessen zu zitieren? Könnte dies langfristig zu einer Unterbrechung der Kontinuität menschlichen Wissens führen?

Smirnov: Im Prinzip ja, insbesondere wenn Menschen KI-generierte Beweise nicht verstehen können. Aber wenn wir Wege finden, dies zu vermeiden, und eine gute Form der Mensch-Maschine-Kollaboration entwickeln, könnte KI im Gegenteil zu einem sehr nützlichen Werkzeug werden.

Ich habe versucht, KI auf meine eigenen Forschungsfragen anzuwenden, aber die derzeit fortschrittlichsten Modelle scheinen noch nicht sehr praktisch zu sein, vielleicht weil ihnen ein entscheidendes Verständnis fehlt. Allerdings ist KI ein hervorragendes Werkzeug, um bekannte Informationen in einem Fachgebiet zu suchen oder Texte zu korrigieren.

China News Weekly: Manche könnten die jüngsten Ereignisse als unvermeidliche Folge der Wissensgleichberechtigung durch KI betrachten. Was halten Sie davon?

Smirnov: Ich habe noch nicht viel Wissensgleichberechtigung gesehen; die meisten Fortschritte wurden mit nicht öffentlichen Modellen erzielt. Tatsächlich wäre es vielleicht viel besser, wenn KI-Unternehmen Ressourcen mit Mathematikern teilen würden, statt alles selbst zu erledigen. Ich glaube, das wird bald Realität werden. KI-Unternehmen und Mathematiker werden letztlich zu einer Art Konsens gelangen, und dann wird auch die Wissensgleichberechtigung kommen.