IT之家 El 9 de octubre, OpenAI publicó en octubre 719 respuestas matemáticas de IA, que abarcan 372 familias de resultados matemáticos y involucran cientos de problemas de investigación abiertos. Sin embargo, después de su publicación, se señaló que aún no cumplen por completo con los estándares establecidos por el “Grupo Asesor de Matemática e Inteligencia Artificial” (AGMAI).
IT Home informó anteriormente que, el 6 de octubre, OpenAI publicó inicialmente en GitHub un total de 722 manuscritos matemáticos generados por IA, que incluyen 372 familias de resultados y varios problemas de investigación abiertos. Sin embargo, el 7 de octubre, debido a un error en un símbolo y sus efectos secundarios, se retiraron 3 manuscritos, y ahora el catálogo público cuenta con 719.
OpenAI indicó que, antes de su lanzamiento, consultó al Grupo Asesor de Matemáticas y Inteligencia Artificial (AGMAI) presidido por el Instituto de Estudios Superiores de Princeton, y tomó en consideración sus recomendaciones públicas. Sin embargo, según la información pública, este lanzamiento aún no ha cumplido completamente con los estándares establecidos por ese grupo.
AGMAI anteriormente recomendó que los laboratorios de IA de vanguardia detengan probar problemas matemáticos complejos en modelos propios que no son accesibles para el exterior, y exigió la divulgación de información como el nombre del modelo, las palabras clave, la cadena de razonamiento, el tiempo de ejecución y los costos de cálculo; sin embargo, OpenAI sigue utilizando modelos propios en esta ocasión, y solo 10 manuscritos incluyen la cadena de razonamiento del modelo.
En cuanto a la comprensibilidad para los seres humanos, el grupo de asesores enfatizó que las pruebas generadas por IA deben ser fáciles de revisar y estudiar por parte de matemáticos; sin embargo, según información disponible, alrededor del 42% de las pruebas publicadas por OpenAI no han sido procesadas formalmente, y no se proporciona ningún metadato legible por máquina que conecte las pruebas en lenguaje natural con los productos formales.
AGMAI también declaró que su papel de asesoría no constituye una aprobación por parte de OpenAI para obtener o publicar esos resultados, y que finalmente será la comunidad matemática quien evalúe si las recomendaciones se implementan adecuadamente. Este evento volvió a despertar controversias sobre la transparencia, la verificación formal, el revisado por pares y la autonomía académica en los resultados matemáticos generados por IA.
Tao Zhexuan publicó un post en mathstodon el 7 de octubre, indicando que no se opone a que la IA haga matemáticas, e incluso ha sido un usuario activo de investigaciones asistidas por la IA; pero se opone firmemente a que “resolver problemas famosos rápidamente con la IA” sea el objetivo principal o una ventaja comercial. Cree que esto podría dañar los mecanismos de comprensión, enseñanza, cooperación y exploración abierta que son fundamentales para el funcionamiento de la comunidad matemática.
Tao Zhexuan señaló que, en las matemáticas tradicionales, un avance en una conjetura de larga duración no consiste simplemente en “obtener la respuesta”: el autor realiza informes, participa en seminarios y interactúa con colegas. Posteriormente, ese avance se simplifica, se explica y se incluye en los libros de texto, lo que también genera nuevas preguntas, colaboradores y nuevas direcciones de investigación.
Y la forma en que las empresas como OpenAI actúan actualmente es, a menudo, de permitir que el promptador impulse al IA para que resuelva problemas por sí misma; una vez que el objetivo está “resuelto”, es poco lo que ocurre en términos de comprensión, informes, discusión entre colegas y desarrollo del campo. Tao Zhexuan cree que los publicadores incluso podrían no ser suficientes para explicar la salida del IA, responder preguntas o interactuar con el campo.
Él llama a esta situación “el malestar digestivo de las pruebas en el mundo de las matemáticas”: la IA puede generar proposiciones, pruebas y ejemplos de contraejemplo a alta velocidad, pero los humanos no tienen tiempo para verificar, comprender, escribir, enseñar y absorber, lo que resulta en una gran cantidad de “pruebas que nadie puede digerir”.
Lo que le preocupa especialmente es que OpenAI utiliza las ecuaciones de Navier-Stokes y otros problemas del milenio como un punto de referencia para evaluar su capacidad de modelo. En su opinión, “cuántos problemas resuelve y con qué rapidez” se convierte en un indicador de “comprensión y perspicacia”; pero la velocidad y la cantidad no equivalen a una comprensión matemática.
Tao Zhexuan enfatiza que una vez que el problema se “resuelve” al ser público, es casi imposible volver a un estado de “no resuelto”. Incluso si más tarde las personas intentan buscar otros caminos o extraer nuevas metodologías, solo saber que la respuesta existe ya “contamina” ese proceso de investigación.
Por lo tanto, criticó que se tratara de una forma no sostenible de “recolección” a gran escala: tratar los problemas abiertos como recursos que pueden ser consumidos en grandes cantidades, lo que en última instancia hará que todo el campo de las matemáticas pierda su fertilidad comparada con los métodos de investigación tradicionales.
IT Home nota: Terence Tao es uno de los matemáticos más famosos de la actualidad, profesor de matemáticas en la Universidad de California en Los Ángeles (UCLA), y también ganador del Premio Fields en 2006; a menudo se le llama “el Mozart de las matemáticas”.
Leer también: