Deng Yu, medallista de la Medalla Fields y profesor de la Universidad de Chicago, habló de manera sistemática en la conferencia magistral del foro "Zhishifenzi" y "Sr. Ciencia" del 26 de octubre sobre cómo debe hacerse matemáticas en la era de la IA.
Primero señaló dos ventajas de la IA frente a los humanos: un conocimiento tan amplio que carece de límites y un costo de prueba y error tan bajo que puede considerarse despreciable. Pero subrayó que, tanto en las matemáticas como en cualquier otra cosa, el ser humano debe ser el sujeto, y la IA es solo una herramienta que utilizamos.
Cambiando de tema, Deng Yu dirigió sus críticas contra las empresas de IA. Dijo que, si de verdad tratan a la IA como investigador, deben cumplir las normas académicas: cuando se demuestra una conclusión importante, una petición razonable es publicar la cadena de razonamiento. Pero la realidad es que la mayoría de estas empresas se niegan a publicarla alegando la "prevención de la destilación", y entre las demostraciones ya publicadas, son muy pocas las que realmente muestran la cadena de razonamiento.
"No pueden destilar con toda tranquilidad cuando solo ustedes destilan toda la literatura y el conocimiento en red de la humanidad; pero cuando otros simplemente quieren conocer la cadena de razonamiento, dicen que esto no se puede y aquello tampoco." Esta ironía apunta directamente al doble rasero de las grandes empresas, al estilo de "solo el mandarín puede prender fuegos". Por eso Deng Yu propone apoyarse en modelos matemáticos de código abierto, para que la comunidad matemática tenga en sus propias manos los modelos que le pertenecen, y al mismo tiempo regular, según las normas académicas, el uso de los datos, la divulgación de las cadenas de razonamiento y la trazabilidad.
25 medallistas de la Medalla Fields firman conjuntamente una protesta
No es una voz solitaria. El 11 de septiembre, hora local, Terence Tao, Deng Yu, Peter Scholze y otros 25 medallistas de la Medalla Fields firmaron conjuntamente la declaración "La grave desalineación de la inteligencia artificial en las matemáticas", advirtiendo de que los objetivos de las empresas de IA y los de la comunidad matemática están gravemente desconectados. La declaración señala que las soluciones de IA suelen publicarse con precipitación, sin tiempo para una redacción formal, para aislar los nuevos métodos o para citar el trabajo de otros, lo que genera graves riesgos de autoría y plagio.