IT之家 El 28 de octubre, OpenAI anunció el lunes en la hora local que la empresa ha logrado avances destacados en matemáticas, ciencia de la computación y física, y afirmó que está ajustando su forma de comunicar los resultados. Sin embargo, aunque parecía haber una corrección en su estrategia, los investigadores que participaron en la entrevista con The Verge se sienten cada vez más molestos por el modo en que opera la empresa.
IT Home observó que, en los últimos meses, ha habido fricciones constantes entre OpenAI y la comunidad matemática. A principios de octubre, la empresa publicó cientos de preimpresiones de una sola vez, lo que causó gran estrés a los matemáticos. Esta vez, OpenAI indicó que colaborará con expertos del campo como “guías” para determinar la forma adecuada de publicar sus últimos logros.
Tres logros se enfocan en algunos problemas no resueltos más importantes en los campos de las matemáticas, la ciencia de la computación y la física. Una parte continúa las líneas de investigación previas de OpenAI, mientras que otra abre nuevas rutas de estudio. Según las recomendaciones de estos “guías”, los tres resultados se publicaron con diferentes métodos: los resultados en el campo de las matemáticas se publicaron directamente como contenido de derivación generado por IA, “para que los investigadores del sector académico organicen por sí mismos la interpretación de este resultado”; los resultados en el campo de la informática fueron organizados por OpenAI en un grupo de investigación externo para su interpretación; mientras que los resultados en el campo de la física no se publicaron públicamente, OpenAI indicó que serán decididos por un equipo de expertos externos sobre la forma de su publicación posterior.
Este logro matemático es muy impactante; se dice que ha demostrado la conjetura de Kakeya en todas las dimensiones. En pocas palabras, este problema trata sobre: ¿qué espacio es necesario para hacer que una aguja o un lápiz gire en todas las direcciones? A principios de este año, el matemático Wang Hong ganó el prestigioso Premio Fields gracias a la demostración de la conjetura en su versión tridimensional. El profesor de matemáticas de la Universidad de Brown, Brendan Hassett, indicó que las conclusiones ofrecidas por OpenAI “parecen tener fundamento suficiente”, pero también subrayó que aún no ha verificado los argumentos formales en forma de Lean, es decir, el sistema formal que se basa en la verificación por computadora de las conclusiones.
Los logros en el campo de la física se centran en el modelo estándar, que es el marco teórico más maduro y completo en la física. La investigación se enfoca en la dinámica cuántico-color, una teoría que describe la fuerza nuclear fuerte, una de las cuatro fuerzas básicas, así como su relación con la teoría de Yang-Mills; la teoría de Yang-Mills también es una piedra angular de la física de partículas moderna y forma parte de uno de los siete grandes problemas del milenio. Sin embargo, este estudio de OpenAI no ha resuelto el problema pendiente del “espacio de masa”.
El último resultado afirma que refuta la hipótesis del tiempo índice. Esta es una suposición ampliamente aceptada en el campo de la ciencia computacional teórica: algunos problemas no pueden resolverse más rápido que la enumeración bruta. Esta hipótesis está estrechamente relacionada con los problemas P vs. NP, que también son un problema clave del Milenio y uno de los problemas no resueltos más conocidos en este campo. El núcleo del problema consiste en examinar si aquellos problemas cuya respuesta es fácil de verificar también pueden resolverse rápidamente.
Debido a la diferente medida en que se divulgan los resultados y al alto umbral de verificación de estos logros, es difícil para los investigadores evaluar completamente estas conclusiones. Incluso si se obtienen todos los datos, el trabajo de verificación requeriría mucho tiempo. Sin embargo, los expertos que participaron en las entrevistas señalaron que estos resultados merecen ser tomados en serio; muchos los calificaron como “de gran importancia”, “como un avance significativo” y “de gran relevancia”.
Los investigadores científicos, aunque se sienten emocionados por estos avances científicos, también están molestos por las prácticas de OpenAI. Después de recibir numerosas conclusiones de investigación generadas por IA en los últimos meses, este sentimiento de cansancio ya es muy familiar. Muchos investigadores esperan que toda la comunidad académica se concentre en el trabajo extenso de verificación, y cuestionan por qué OpenAI sigue estableciendo obstáculos adicionales y seleccionando personal experto para supervisar todo el proceso.
La mayoría de los expertos que participaron en la entrevista apoyaron la práctica de OpenAI de consultar a investigadores externos, pero sugirieron que la publicación pública de conclusiones de investigación significa que los materiales relacionados deben estar disponibles para que todos puedan verificarlos. Constantin Kogler, investigador del Instituto de Investigación Superior, dijo: “En comparación con antes, cuando se publicaban cientos de artículos de una vez, esta vez solo se anunciaron tres resultados; estoy de acuerdo con este ritmo de publicación”. Pero no está de acuerdo con limitar el acceso a la información al grupo de expertos seleccionados por OpenAI. Dijo: “No tiene sentido que al principio solo permitiera que un pequeño número de científicos conocidos pudiera ver el contenido”.
El profesor de física de la Universidad de Texas en Austin, Andreas Karch, dijo: “Elegir personalmente al equipo de expertos es algo muy malo. Los grandes laboratorios ya tienen suficiente poder de decisión; no deberían ser ellos quienes decidan quién está calificado para participar y quién debe ser excluido”. Al principio, Karch propuso que los investigadores pudieran ser seleccionados a través de un proceso de selección, pero también admitió que, en última instancia, las personas elegidas probablemente seguirán siendo académicos de alto nivel. Luego planteó otra pregunta: ¿por qué no se podría emitir directamente los documentos de prueba y, al mismo tiempo, asignar un grupo de interpretación de expertos? “De esta manera, todos tendrían la oportunidad de acceder al contenido, y también se reflejaría su deseo de que los resultados sean comprendidos y valorados”.
Justo un día antes de que OpenAI anunciara oficialmente, el Grupo Asesor de Matemáticas y Inteligencia Artificial (AGMAI) publicó un artículo especialmente para advertir sobre este tipo de control de información. El grupo asesor declaró: “No recomendamos que las empresas de IA adopten este modelo”. Consideraron que no es necesario dar prioridad a ciertos grupos en cuanto al acceso al contenido, ya que esto aprovecharía la reputación de los investigadores seleccionados, además de generar riesgos como diferencias en el acceso, sesgos en la selección y retrasos inexplicables en el progreso. El plan propuesto por el grupo de expertos es que los laboratorios de IA deben subir los resultados a plataformas académicas preimpresas, incluir pruebas formales y explicaciones sobre los temas seleccionados, y ofrecer fondos y apoyo adicional para ayudar a la comunidad académica a interpretar estas conclusiones.
Después de la publicación de estos nuevos resultados, AGMAI insta a OpenAI “a publicar inmediatamente en público el texto en lenguaje natural correspondiente a este resultado físico y las pruebas formalizadas en Lean”.
Estos son tanto problemas fundamentales de física como problemas matemáticos importantes. La existencia de la teoría de Yang-Mills cuántico es una de las grandes dificultades del milenio, y la construcción de la teoría del campo cuántico de interacciones en cuatro dimensiones ha sido un objetivo en el campo de la física matemática durante décadas.
Respetamos mucho a los científicos que OpenAI invitó para liderar este trabajo. Pero, como ya hemos dicho anteriormente, la interpretación de los resultados debe llevarse a cabo en un entorno público, y todos deben tener acceso igualitario. OpenAI dice que se ha pospuesto la publicación para completar la demostración formal en formato Lean. Según ellos mismos, este trabajo ya está terminado, y desde un punto de vista científico, no hay razón para seguir posponiendo su publicación.
Según Hasset, hacer que los resultados sean completamente públicos también ayuda a promover el desarrollo científico y a que herramientas nuevas como la IA sea aceptadas de manera más amplia. “Cuando varios grupos de investigación de diferentes lugares estudian estas conclusiones juntos, los investigadores que lo necesiten pueden utilizar estas nuevas herramientas más rápidamente”.
Quiero encontrar un método de comunicación que satisfaga a los investigadores de todas las disciplinas en las que OpenAI está involucrado, pero quizás eso no sea realista. OpenAI indica que está probando diferentes opciones y admite que cada método implica sacrificios. El matemático de la Universidad de Stanford, Jared Duker Lichtman, dice: “Mi sensación es que, sin importar la opción elegida, siempre habrá personas insatisfechas. Solo tenemos que encontrar el método con menos controversia”.
El profesor de matemáticas del Instituto Tecnológico de Georgia, Xiaoyu He, cree que el problema es mucho más profundo que la forma en que se publica. “Los resultados en sí son muy impresionantes, pero en mi opinión, simplemente están tratando de mostrar su actitud responsable y cautelosa, pero evitan el conflicto central: estas dificultades fundamentales han sido resueltas rápidamente por la IA, sin la contribución de investigadores humanos, y el texto que demuestra los resultados es difícil de leer y verificar”.