IT之家 Mensaje del 27 de octubre: según informó Chao News el 26 de octubre, el ganador de la Medalla Fields y profesor del Departamento de Matemáticas de la Universidad de Chicago, Deng Yu, pronunció el pasado fin de semana una conferencia magistral en el foro "Zhishifenzi" (Intelectuales) y "Saixiansheng" (Mr. Science), en la que expuso de manera sistemática sus reflexiones sobre la investigación matemática en la era de la IA.
Deng Yu afirmó que las ventajas de la IA frente a los seres humanos son, por un lado, que la IA posee una gama de conocimiento ilimitada y, por otro, que la IA tiene un coste de intento / coste de prueba y error extremadamente bajo. Pero debemos mantener un punto: tanto en la investigación matemática como en cualquier otro asunto,el ser humano siempre es el sujeto; la IA es una herramienta, una herramienta que utilizamos los seres humanos para realizar investigación.
Deng Yu considera que si la IA se emplea como investigador, debe cumplir las normas académicas. Si la IA demuestra un problema de enorme importancia, una exigencia muy razonablees publicar la cadena de razonamiento de la IA. Sin embargo, las empresas de IA se niegan a publicarla, lo cual claramente va en contra de la práctica académica. "Esta empresa de IA no está dispuesta a hacerlo. De todas las demostraciones que ha publicado, solo una mínima parte incluye realmente la cadena de razonamiento; en la mayoría de los casos, utilizan como excusala llamada protección contra la destilaciónpara negarse a publicar la cadena de razonamiento y la información relacionada".
Deng Yu declaró que, para las empresas de IA,no puedes destilar con toda tranquilidad solo cuando tú destilaste toda la literatura en línea de la humanidad, todo el conocimiento de la humanidad; de hecho, nadie quiere destilarte, la gente solo quiere conocer la cadena de razonamiento, y luego tú, pensando que los demás quieren destilarte, empiezas a decir que esto no se puede y aquello tampoco.
Deng Yu propuso que, mediante modelos matemáticos de código abierto,se garantice que la comunidad matemática tenga modelos propios bajo su control, sin necesidad de depender de estas empresas de IA. En segundo lugar, el uso de los modelos también debe seguir las normas académicas, incluido el uso de datos, la publicación de la cadena de razonamiento, la trazabilidad, etc.
IT之家 ha notado que, el 11 de septiembre, hora local, Terence Tao, Deng Yu, Peter Scholze y otros 25 ganadores de la Medalla Fields, como firmantes iniciales, publicaron conjuntamente una declaración titulada "A Severe Misalignment of AI in Mathematics", en la que advierten de que está surgiendo una "grave desalineación" entre las empresas de IA y la comunidad matemática.
La declaración señala que, en los últimos meses, la capacidad matemática de los grandes modelos de lenguaje ha mejorado notablemente, hasta el punto de poder resolver muchos problemas abiertos importantes en diversos campos de las matemáticas. Sin embargo, el impulso de las empresas de IA por resolver problemas matemáticos como referencia (benchmark) es perjudicial tanto para la ciencia matemática como para la comunidad matemática.Los objetivos de las empresas de IA están gravemente desalineados con los de la comunidad matemática, y estos forman parte de problemas de alineación más amplios que afectan a otras ciencias y profesiones creativas, e incluso a toda la sociedad.
La declaración menciona que estas soluciones de IA suelen publicarse con precipitación, sin tiempo para una redacción formal, ni tiempo para aislar nuevos métodos y nuevas ideas, o para citar trabajos relacionados de otros. Como ocurre en todas las profesiones creativas,esto plantea serios problemas de autoría y plagio. Además, sin matemáticos dispuestos a responsabilizarse de su desarrollo y de su incorporación al canon matemático, las ideas concebidas por la IA nunca podrán realizarse plenamente, y se perderá también la crucial cadena de transmisión humana entre matemáticos.