¿Matemáticas destruidas? 25 ganadores de la Medalla Fields firman una declaración de advertencia y uno de ellos responde en exclusiva

Periodista: Zhou You, China Newsweek

Editor: Du Wei

Editor de operaciones: Wang Lin

El 11 de septiembre, hora local, 25 ganadores de la Medalla Fields, incluidos Terence Tao y Yu Deng, publicaron conjuntamente la declaración "Grave desalineación de la inteligencia artificial en las matemáticas", llevando la "guerra" entre empresas de IA como OpenAI y Anthropic y la comunidad matemática a un punto álgido. La declaración afirma que la práctica de las empresas de IA de utilizar la resolución de problemas matemáticos difíciles como referencia de la capacidad de sus modelos ha causado daños a la propia ciencia matemática y a la comunidad matemática, y ha generado una divergencia significativa con el objetivo fundamental de la comunidad matemática de buscar la comprensión conceptual.

Esta divergencia se ha vuelto cada vez más evidente recientemente. El 8 de septiembre, OpenAI afirmó que su modelo de IA interno no revelado resolvió en 88 horas el problema de existencia y suavidad de las ecuaciones de Navier-Stokes (ecuaciones N-S). Las ecuaciones N-S son las ecuaciones centrales que describen el movimiento de fluidos y se aplican ampliamente en campos como la predicción meteorológica y el diseño de aeronaves. El Instituto Clay de Matemáticas (CMI) de Estados Unidos incluyó en 2000 el problema de existencia y suavidad como uno de los siete Problemas del Milenio, con una recompensa de 1 millón de dólares.

Sin embargo, el matemático de la Universidad de Nueva York Tristan Buckmaster y el investigador de Anthropic Levent Alpöge ya habían logrado avances clave en problemas relacionados y publicaron sus resultados el 7 de septiembre. Buckmaster criticó posteriormente a OpenAI, considerando que solo aumentó su inversión tras enterarse de sus avances. Reveló que había utilizado borradores y derivaciones no publicados en las herramientas de código de OpenAI, y sospechaba que el modelo de OpenAI los había "espiado". OpenAI negó esta afirmación, pero admitió que no se puede descartar por completo el papel indirecto de los datos de los usuarios en el entrenamiento del modelo. Actualmente, OpenAI no tiene intención de reclamar la recompensa del CMI. La comunidad matemática aún no ha otorgado un reconocimiento formal a la prueba de OpenAI.

La actuación de OpenAI desató rápidamente un intenso debate sobre la prioridad académica, la ética de los datos y los límites de la investigación científica con IA. Desde mayo de este año, varios problemas matemáticos difíciles han sido resueltos por IA, y OpenAI reveló recientemente que ha dirigido su atención a otro Problema del Milenio, la conjetura de Hodge.

La IA sigue apagando los "faros" de las matemáticas humanas. Stanislav Smirnov, profesor de la Universidad de Ginebra, ganador de la Medalla Fields en 2010 y uno de los 25 firmantes de la declaración, concedió una entrevista exclusiva a China Newsweek el 12 de septiembre.

Stanislav Smirnov. Imagen/captura de vídeo

"Como excavadores quejándose de ser reemplazados por excavadoras"

China Newsweek: La declaración pasó de la redacción a la publicación en solo unos días. ¿Cuál es la razón principal de tanta urgencia?

Smirnov: La mayoría de los colegas no esperaban que este asunto avanzara tan rápido ni que generara tanta controversia. Dado el rápido desarrollo de la IA, debemos actuar con rapidez para establecer reglas del juego orientadas al futuro.

China Newsweek: La declaración utiliza el término "grave desviación". ¿Cuál es la divergencia fundamental entre los objetivos matemáticos de las empresas de IA y los objetivos matemáticos que defiende la propia comunidad matemática?

Smirnov: En primer lugar, debemos responder a la pregunta: ¿cuál es el propósito del apoyo de la sociedad a la investigación matemática? Las matemáticas, al igual que la música y el arte, son una parte importante de la cultura humana y también la base de muchas otras disciplinas y tecnologías. Para muchos matemáticos, el valor cultural y artístico de las matemáticas es lo más importante.

Muchas aplicaciones sociales derivadas de las matemáticas, desde los teléfonos móviles y los aviones hasta el propio aprendizaje automático, se crearon inicialmente en busca de la belleza científica. Hasta ahora, es comprensible que las empresas de IA utilicen las matemáticas como indicador para medir la capacidad de los grandes modelos. Estos modelos se han vuelto tan potentes que resulta difícil encontrar puntos de referencia de evaluación adecuados. Pero los métodos de evaluación actuales suelen consistir en producir demostraciones extensas de conjeturas famosas, mientras que las ideas que pueden surgir durante la exploración de esas conjeturas quizá sean más importantes.

Dos amigos me dijeron que los matemáticos se quejan de las demostraciones de IA como los excavadores que se quejan de ser reemplazados por excavadoras. Yo creo que esa analogía debería situarse en el contexto de una excavación arqueológica. La excavadora es más rápida, pero puede dañar artefactos valiosos. Si esos artefactos fueran desenterrados por un grupo de trabajadores mucho más lentos, se conservarían bien.

China Newsweek: La declaración de OpenAI sobre las ecuaciones N-S ha generado mucha controversia. Buckmaster afirma que OpenAI solo movilizó su modelo para "adelantarse" después de enterarse de los avances de su equipo. ¿Qué opina de este tipo de incidentes?

Smirnov: Ya hemos visto que algunos grandes modelos se apropian de ideas ajenas sin citar a los autores, o utilizan ideas no publicadas. Si se tratara de matemáticos humanos, esto se consideraría una violación grave de la ética académica. Algunos piensan que es aceptable que la IA copie a los humanos, pero yo no comparto esa opinión.

Sin embargo, el problema más importante ahora es que distintos grupos e individuos tienen opiniones muy diferentes al respecto. Realmente necesitamos establecer nuevas reglas para resolver este tipo de conflictos. Debemos ser conscientes de que el desarrollo futuro de la IA podría provocar cambios importantes en su funcionamiento, por lo que nuestra comprensión de la IA también debe revisarse constantemente. Desde una perspectiva positiva, podemos buscar el diálogo y el equilibrio entre todas las partes interesadas, pero eso requiere esfuerzo.

China Newsweek: La declaración no aboga por eliminar la IA y reconoce que tiene potencial para ayudar y acelerar la investigación matemática. ¿Cómo sería para usted la herramienta de IA ideal para la investigación matemática?

Smirnov: La IA es muy buena para comprender información conocida, realizar experimentos y comprobar si los métodos existentes pueden resolver los problemas actuales. Pero no es buena para juzgar la eficacia de métodos nuevos ni para proponer ideas verdaderamente novedosas. Sin embargo, su nivel está mejorando a gran velocidad, y calculo que en los próximos años tendremos que ajustar los métodos de investigación tradicionales. Pero estoy seguro de que encontraremos muchos usos de la inteligencia artificial que beneficien no solo a la ciencia y a la sociedad, sino también al desarrollo de las propias empresas de IA.

La equidad aún no ha llegado

China Newsweek: De los recientes avances matemáticos impulsados por IA, ¿qué progreso concreto le ha sorprendido más? ¿Por qué resulta tan preocupante?

Smirnov: Hasta ahora no he visto nada que me sorprenda especialmente. Algunos problemas que realmente me interesan parecen seguir estando fuera del alcance de la IA. Lo que más me preocupa es que el énfasis excesivo en obtener demostraciones, en lugar de comprender los objetivos de la investigación, pueda perjudicar tanto a la ciencia misma como a sus posibles aplicaciones.

China Newsweek: Si los estudiantes pueden obtener demostraciones directamente de la IA, ¿podrán recibir una formación matemática suficiente? ¿Sigue siendo importante el proceso de luchar con las dificultades y encontrar finalmente la respuesta por uno mismo?

Smirnov: Incluso para investigadores experimentados, la IA puede causar un gran daño. Un amigo académico confesó que, tras un año de usar IA para generar ejercicios y respuestas de sus cursos, descubrió que su capacidad para resolver problemas del nivel de sus estudiantes se había deteriorado mucho. He observado que la mayoría de los estudiantes son conscientes de este riesgo e intentan resolver los problemas por sí mismos, utilizando la IA solo como una pista.

China Newsweek: Si la IA puede producir conclusiones matemáticas a gran escala, ¿cuál es el sentido del trabajo de los matemáticos humanos? ¿Se convertirá la velocidad a la que los humanos digieren esas conclusiones en un nuevo cuello de botella para el progreso matemático?

Smirnov: La forma en que la IA investiga y resuelve problemas actualmente se inclina más hacia un formalismo. Quizá los resultados finales puedan entenderse, pero ¿quién los entenderá? Una posibilidad es que estemos asistiendo al nacimiento de un tipo completamente nuevo de trabajo científico, consistente en extraer ideas de textos generados por IA. ¿Puede la IA generar realmente ideas nuevas? Por ahora, la respuesta es no, pero no estoy seguro.

China Newsweek: Al utilizar IA para generar demostraciones matemáticas, ¿es más difícil citar adecuadamente investigaciones anteriores? A la larga, ¿podría provocar una ruptura en la continuidad del conocimiento humano?

Smirnov: En principio, sí, especialmente cuando los humanos no pueden entender las demostraciones de la IA. Pero si encontramos la manera de evitar esta situación y logramos una buena colaboración entre humanos y máquinas, la IA podría convertirse en una herramienta muy útil.

He intentado aplicar la IA a mis propios problemas de investigación, pero los modelos más avanzados actualmente siguen sin ser muy prácticos, quizá porque carecen de cierta comprensión clave. Sin embargo, la IA es una herramienta excelente para buscar información conocida en un campo o para corregir artículos.

China Newsweek: Algunos podrían pensar que la serie de acontecimientos recientes es una consecuencia inevitable de la democratización del conocimiento mediante la IA. ¿Qué opina?

Smirnov: Todavía no veo mucha igualdad; la mayoría de los avances se han logrado utilizando modelos que no son públicos. De hecho, si las empresas de IA compartieran recursos con los matemáticos, en lugar de querer hacerlo todo ellas mismas, la situación sería mucho mejor. Creo que esto se logrará pronto. Las empresas de IA y los matemáticos acabarán llegando a algún tipo de consenso, y la igualdad llegará con ello.