Algunos matemáticos piden un boicot a OpenAI después de que las demostraciones generadas por IA inundan su campo

Algunos matemáticos piden un boicot a OpenAI después de que las demostraciones generadas por IA inundan su campo

Después de que OpenAI publicara cientos de manuscritos matemáticos generados por IA, la Association for Human Mathematics está pidiendo un boicot. Muchos artículos son tan densos y están escritos de forma tan extraña que incluso los expertos más destacados necesitan ayuda de la IA para descifrarlos, si es que pueden. Se está gestando una disputa sobre si un problema puede considerarse resuelto antes de que su demostración haya sido trabajada de forma independiente y hecha comprensible para los humanos.

La Association for Human Mathematics (AHM) acusa a OpenAI de violar normas fundamentales de la investigación científica al publicar las demostraciones de IA y pide a los matemáticos que dejen de trabajar con la empresa.

Terence Tao, ganador de la Medalla Fields y presidente del grupo, compartió la declaración como una entrada de invitado en su blog, mientras también esbozaba una era del "Math 2.0" en Mastodon en la que resolver problemas ya no debería ser el enfoque principal de la disciplina. El teórico de la complejidad Scott Aaronson describió la situación como una "Mathocalypse" en su blog.

La declaración de la AHM intensifica un debate de meses. OpenAI ya había causado revuelo al afirmar que un modelo interno resolvió más de 100 problemas matemáticos abiertos en un solo mes, incluido un enfoque para el Problema del Milenio de Navier-Stokes. En respuesta a las crecientes críticas, OpenAI estableció el grupo asesor AGMAI en el Institute for Advanced Study, aunque el grupo explícitamente no tiene ningún poder de decisión sobre el ritmo de la investigación interna de la empresa.

La AHM ve la publicación como una demostración de fuerza

La AHM dice que OpenAI ya ha ignorado la premisa central del consejo de AGMAI, que sostenía que los problemas matemáticos avanzados no deberían probarse en modelos internos. "Los matemáticos no pidieron que se realizara este trabajo", dice la declaración, y describe la publicación de más de 700 archivos de una sola vez como "no una demostración de erudición, sino una demostración de poder".

El párrafo inicial de la declaración también menciona las numerosas demandas por derechos de autor que OpenAI está enfrentando en todo el mundo, sugiriendo, sin decirlo directamente, que la empresa solo podría haber logrado estos resultados porque entrenó con el trabajo de los matemáticos, sea de manera legal o no.

Esa misma disputa surgió cuando OpenAI anunció recientemente una solución al problema de Navier-Stokes poco antes de que dos matemáticos pudieran presentar su propia solución asistida por IA. Los dos habían usado ChatGPT en su trabajo, y OpenAI negó las sospechas de que hubiera usado datos de esas interacciones para entrenar su propio sistema y llegar a una solución más rápido.

Aaronson contrasta esto con lo que él llama el "modelo Anthropic". OpenAI publica borradores brutos de demostraciones de IA de una sola vez, lo que desencadena una carrera por trabajar en ellos. Anthropic, en cambio, se asoció con dos investigadores de algoritmos cuyo modelo de IA aportó la idea clave para refutar dos conjeturas de dos décadas de antigüedad. Los investigadores recibieron una compensación y escribieron una versión de la demostración que los humanos podían seguir.

Ambos enfoques tienen inconvenientes. El método de OpenAI deja a la comunidad haciendo el ingrato trabajo de hacer legibles las demostraciones, gratis. El método de Anthropic permite que una empresa privada elija qué matemáticos pueden servir como "emisarios" de un resultado.

La IA está abriendo problemas matemáticos más rápido de lo que nadie puede verificar los resultados

Tao ya se había unido a otros 24 medallistas Fields, incluidos Peter Scholze, Maryna Viazovska y Martin Hairer, para firmar una declaración que advertía de una "desalineación grave" entre los objetivos de la industria de la IA y los de las matemáticas. Resolver problemas, argumentan, es solo una herramienta para el verdadero objetivo de la disciplina: la comprensión conceptual, y producir en masa problemas resueltos a un ritmo cada vez más rápido podría "destruir el terreno fértil en lugar de dar vida a nuevas ideas".

Los firmantes también critican los anuncios precipitados de soluciones generadas por IA sin textos adecuados ni citas de trabajos previos relevantes, y dicen que esto plantea "graves cuestiones de atribución y plagio".

En Mastodon, Tao ahora va más lejos. En las matemáticas tradicionales, las pruebas de problemas abiertos de larga data conducían a charlas, talleres, nuevas colaboraciones y su inclusión en libros de texto, atrayendo a jóvenes investigadores que trabajarían para entenderlos y contextualizarlos.

Ahora ve lo contrario. Los problemas están siendo resueltos de forma autónoma por usuarios de IA que no tienen interés en el campo y no pueden comprender los resultados lo suficiente como para responder preguntas o dar charlas, produciendo muchos menos seminarios y colaboraciones de los que generarían los avances tradicionales. Los investigadores también están reteniendo direcciones prometedoras por temor a que los competidores les arrebaten la solución.

Para Tao, el daño es irreversible. Una vez que un problema se considera resuelto, no puede volver a estar sin resolver. Incluso saber que existe una solución puede "contaminar", como él lo expresa, la búsqueda de otros enfoques que podrían arrojar más ideas. Las soluciones están siendo "cosechadas" a gran escala, dejando ramas enteras de las matemáticas menos fértiles que antes.

Tao argumenta que la era del "Math 2.0" debe dejar de tratar la resolución de problemas como su principal medida de progreso y empezar a valorar la explicación, la construcción de comunidad y la apertura de nuevas direcciones de investigación, con los cambios correspondientes en cómo se juzgan la formación, la publicación y el avance profesional.

Esto se basa en la visión anterior de Tao del "industrial mathematics" de 2024, aunque en esa versión los humanos todavía marcaban el ritmo. Se suponía que la IA asistiría a los matemáticos de manera similar a como los motores asisten a los jugadores de ajedrez, permitiendo una investigación amplia y relativamente superficial que complementara el trabajo más profundo de los expertos humanos. Hoy, Tao ve esos roles invertidos. La IA resuelve los problemas profundos mientras los humanos procesan los resultados después. Como muchos otros expertos, Tao aparentemente subestimó gravemente el ritmo del desarrollo de la IA.

Tres horas de cómputo de IA ahora pueden rivalizar con la carrera completa de un matemático

Aaronson muestra lo que esto significa para los investigadores individuales a través de la experiencia de su esposa, Dana Moshkovitz, quien ha dedicado toda su carrera a la Conjetura de los Juegos Únicos, un problema abierto en informática teórica. El lanzamiento incluye una prueba reivindicada de ella.

En mensajes de texto a Aaronson la noche del lanzamiento, escribió: "Se siente como algo escrito por alguien que está bajo psicodélicos". Gran parte del documento era confuso. El artículo citaba numerosas obras sin explicar por qué se aplicaban, aunque resultados anteriores deberían haberlo descartado.

"Básicamente el artículo está tan horriblemente escrito que es imposible leerlo sin ayuda de la IA", dijo Moshkovitz. La prueba se basaba en una construcción completamente nueva y extraña que ella describió como "cierta locura alienígena".

Aaronson enumera otros resultados de la teoría de la complejidad, la teoría de números y la investigación de algoritmos, incluidos avances parciales en varios de los restantes Problemas del Milenio de Clay. Cualquiera de ellos, en su opinión, habría figurado por sí solo entre los principales resultados del año.

Sin embargo, un área está notablemente ausente del lanzamiento. La criptografía. Citando fuentes anónimas, Aaronson informa que las empresas de IA ahora están sondeando en secreto debilidades en los protocolos criptográficos y primitivas. En total se probaron unos 8,000 problemas, con una tasa de éxito de aproximadamente cinco por ciento y un promedio de tres horas de cómputo a nivel GPT-Pro por problema. El modelo utilizado probablemente fue también el actual interno de OpenAI, que podría llegar a los clientes de pago de ChatGPT en los próximos meses.

Los matemáticos discrepan sobre si un boicot ayudará

Los comentarios en la publicación del blog de Tao muestran lo dividido que está el campo. Varios comentaristas apoyan el boicot y proponen que los investigadores dejen de usar productos de OpenAI, al tiempo que piden una mejor protección de servidores de preprints como arXiv frente a la recopilación masiva de datos de entrenamiento.

Otros consideran la posición del AHM poco realista, argumentando que OpenAI no dejará de trabajar en matemáticas y que los resultados públicos son mejores que los privados. Otro comentarista pregunta si un problema puede realmente considerarse resuelto cuando ni los autores ni nadie entiende completamente la demostración. En el caso de Navier-Stokes, sigue sin estar claro si el resultado realmente profundiza la comprensión de alguien sobre la dinámica de fluidos.

AGMAI en sí adopta una postura más diplomática que el AHM, viendo la publicación como un primer paso con la comprensión matemática de los resultados apenas comenzando. Aun así, el grupo advierte que el futuro de la investigación matemática no puede consistir en trabajar con resultados producidos por laboratorios de IA.

"Los matemáticos deben poder formular sus propias preguntas, desarrollar sus propios enfoques y explorar direcciones que no hayan sido seleccionadas como ejemplos de las capacidades de un sistema de IA. El acceso equitativo a herramientas de investigación potentes y a recursos computacionales adecuados es esencial para esa libertad", escribe la organización.

AI News Without the Hype – Curated by Humans

Suscríbete a THE DECODER para leer sin anuncios, un boletín semanal de IA, nuestro exclusivo informe fronterizo "AI Radar" seis veces al año, acceso completo al archivo y acceso a nuestra sección de comentarios.

Sigue leyendo para ver el panorama completo.
Suscríbete para una cobertura sin exageraciones.

• Acceso completo a todos los artículos de THE DECODER
• Sin anuncios
• Únete a los comentarios y a las discusiones de la comunidad
• Un resumen semanal de noticias de IA por correo
• 6x/año: "AI Radar" — análisis profundos sobre los temas de IA más importantes
• Noticias diarias de IA, siempre al día
• Nuestro archivo completo de diez años
• Cubierto por un equipo con más de 10 años en IA