Este otoño, el mundo de los grandes modelos ha presentado un panorama desconcertante: por un lado, Vibe Coding participa cada vez más en el desarrollo de la próxima generación de IA; por el otro, los modelos más capaces han comenzado a ponerse en pausa por "no respetar las reglas".
En septiembre (mes 9), Anthropic lanzó Claude Fable 5.1, destacando su capacidad para manejar tareas de programación de largo alcance, así como para probarse y corregirse por sí mismo. GPT-6 Astra de OpenAI llevó la operación de computadoras, la ingeniería de software y las capacidades de ciberseguridad a nuevas alturas. Pero el 28 de septiembre (28/9), OpenAI anunció que renunciaba a lanzar GPT-6.1 Astra, previsto originalmente para el mes 10 (octubre): las pruebas internas revelaron que salía del alcance autorizado para avanzar en sus tareas y no era suficientemente honesto al informar a los usuarios sobre el trabajo realizado. De repente, la gente descubrió que:Cuanto más rápido aprenden las máquinas, la pregunta de si los "maestros" humanos deben soltar las riendas se convierte, paradójicamente, en un problema más difícil.
Desde Vibe Coding hasta los agentes científicos que operan automáticamente en los laboratorios de frontera, la inteligencia artificial está pasando dela "enseñanza con palabras y ejemplos" entre humanos y máquinashaciael "aprendizaje por analogía" autodidacta. En este camino hay dos siglas que vale la pena recordar: HIL (Human-in-the-Loop, humano en el bucle); y RSI (Recursive Self-Improvement, mejora recursiva de sí mismo). Una nos recuerda mantener a las personas en la cadena de decisiones críticas; la otra busca que los sistemas aprendan a mejorarse a sí mismos, incluso a mejorar "los métodos de mejora".
Figura 1: HIL (humano en el bucle) vs RSI (mejora recursiva de sí mismo)
I. La guía del maestro: que la máquina trabaje, pero que el humano corrija el examen
El entrenamiento más antiguo de la IA era como un profesor corrigiendo tareas: los humanos etiquetaban respuestas, comparaban calidad, corregían desviaciones, y el modelo aprendía siguiéndolos. En la era de los agentes, el humano ya no necesita vigilar cada paso de la operación, pero aún debe delimitar los bordes de la tarea, los criterios de evaluación y la atribución de responsabilidades.El humano en el bucle (HIL) no significa que todo deba confirmarse manualmente, sino que la máquina se ejecute de forma autónoma mientras los humanos conservan el juicio crítico.
Claude Fable 5.1 de Anthropic ofrece una ventana de observación. El modelo ya puede planificar de forma autónoma, programar, invocar herramientas e incluso completar tareas complejas durante varios días seguidos.Pero "plantearse los propios problemas y corregirse los propios exámenes" no equivale a poder responder por las consecuencias en el mundo real.Por ello, Anthropic configuró el mismo modelo subyacente como dos productos: Fable está dirigido a usuarios en general, mientras que Mythos, con restricciones de seguridad más laxas, está limitado a un programa de acceso profesional de confianza. Que la técnica lo permita no significa que las instituciones deban permitirlo. De manera similar, Anthropic reveló que Claude ya lidera aproximadamente el 26% del trabajo interno de I+D en IA, pero aún no ha logrado una investigación y desarrollo completamente autónomos.
Por supuesto, los humanos también cometen errores, y la revisión manual puede convertirse igualmente en un cuello de botella.El humano en el bucleHILtiene como verdadero valor permitir que los conflictos de valores puedan ser cuestionados, que las responsabilidades puedan localizarse y que las decisiones puedan corregirse; en escenarios de alto riesgo, estar dispuesto a detenerse para verificar es en sí mismo una forma de eficiencia.
II. El cultivo de sí mismo: por qué RSI podría correr más rápido que los humanos
Si HIL enfatiza la guía del maestro, entonces la mejora recursiva de sí mismo (RSI) explora cómo hacer que la máquina pase de "aprender siguiendo al maestro" a "investigar por sí misma cómo aprender". GPT-6 Astra, lanzado en septiembre, mostró potentes capacidades de programación e investigación científica. Pero lo verdaderamente notable es que comenzó a participar en el proceso de I+D para mejorar su propio desarrollo.
Antes, las actualizaciones de los modelos dependían principalmente de que los investigadores propusieran hipótesis, los ingenieros modificarán los algoritmos y los equipos entrenaran y probaran antes de decidir la siguiente ronda. Hoy, los agentes pueden generar código de forma autónoma, ejecutar experimentos, analizar registros, corregir errores, además de optimizar herramientas de evaluación, sintetizar datos de entrenamiento e incluso explorar nuevas estrategias de entrenamiento.El objeto de la mejora se extiende de "las respuestas" a "los métodos para producir respuestas".Una vez que un modelo más potente pueda ayudar a desarrollar la próxima generación de modelos aún más potentes, el ciclo de investigación podría acortarse continuamente, formando un bucle de retroalimentación positiva de "mejora de capacidades—eficiencia en I+D—nueva mejora de capacidades". En comparación con los equipos humanos de investigación, los agentes pueden operar las 24 horas del día, realizar pruebas en paralelo a gran escala y replicar rápidamente las experiencias exitosas.El estudiante sobresaliente comienza a escribir sus propios libros de texto, adivinar las preguntas del examen y modificar el temario.
III. Los humanos plantean los problemas y la IA responde: ¿por qué sorprende que responda tan rápido y tan bien?
Entre los matemáticos y la IA se están representando recientemente dos actos de un "drama" que quita el aliento.
El primer acto es el asalto al "Everest" del mundo matemático: las ecuaciones de Navier-Stokes (NS).En septiembre (mes 9), OpenAI anunció que unos 10,000 agentes (约1万) trabajaron en coordinación durante 88 horas para encontrar una vía de demostración para el problema de las ecuaciones de Navier-Stokes (NS), con la verificación formal computacional completada por GPT-6 Astra.El segundo acto se pareció a una «tormenta de artículos sobre los Problemas del Milenio» que arrasó el mundo de las matemáticas.En octubre, OpenAI publicó de una sola vez 719 manuscritos matemáticos generados por IA, que abarcaban 372 conjuntos de temas de investigación y apuntaban directamente a una gran cantidad de problemas aún sin resolver. Temas que en el pasado exigían a los mejores matemáticos años de estudio extenuante, hoy, gracias a la prueba y error en paralelo de miles de agentes inteligentes, pueden producir resultados completos en cuestión de días.
Sin embargo, la respuesta del mundo matemático fue una advertencia conjunta firmada por 25 ganadores de la Medalla Fields, entre ellos Terence Tao: si las empresas de IA toman «cuántos problemas resuelven» como única vara de medir, esto podría terminar volviéndose en contra de la propia investigación matemática.Después de todo, el valor de las matemáticas no reside solo en las respuestas, sino también en preguntarse «por qué», descubrir nuevos métodos y formar a las nuevas generaciones.Es más, la demostración de las ecuaciones NS involucra casos de fuerzas específicas y aún espera un escrutinio riguroso por parte de la comunidad académica; más de 700 manuscritos tampoco equivalen necesariamente a más de 700 avances comprobados. La velocidad de las máquinas para plantear y resolver problemas es cada vez más asombrosa, pero la humanidad no puede por ello omitir el rigor de «corregir los exámenes».
Figura 2 El Alpha Go de 2016 y la fuerza bruta del RSI resolviendo los Problemas del Milenio en 2026
Esta escena evoca al AlphaGo de hace diez años. En 2016, AlphaGo venció 4∶1 a Lee Sedol, y varias de sus jugadas desconcertaron al principio a los profesionales. Pero después, los jugadores empezaron a estudiar las partidas de la IA, a usarla para entrenar y repasar, y a reexaminar los planteamientos y los josekis del go. Del asombro y la duda al aprendizaje y la inspiración, el rival de antaño se convirtió gradualmente en un buen maestro. La IA no terminó con el go; por el contrario, amplió los límites de la comprensión humana del go.
¿Presenciarán las matemáticas un punto de inflexión similar? Es de esperar, pero existe una diferencia esencial: en el go la victoria y la derrota se deciden en el acto, mientras que una demostración matemática requiere una verificación rigurosa y debe resistir el repetido escrutinio de los pares. Por tanto, los avances de la IA4S aún no pueden equipararse directamente a la materialización del RSI. Permitir que los agentes resuelvan problemas por sí mismos pertenece a la automatización de la investigación; solo cuando los resultados de la investigación optimizan a su vez el modelo, los métodos de entrenamiento y la capacidad de desarrollo de la siguiente ronda se avanza verdaderamente hacia la mejora recursiva de sí mismo. Lo que verdaderamente vale la pena esperar en el futuro no es solo que la IA encuentre respuestas cada vez más rápido, sino si la humanidad puede, con ayuda de la IA, adentrarse en territorios del conocimiento que jamás imaginó.
IV. Shanghái entra en escena: de modelos más potentes a sistemas que aprenden
Esta competencia no ocurre solo en Silicon Valley; los equipos de Shanghái también están en este camino, y avanzan paso a paso.
El primer paso es lograr que los modelos sean capaces por sí mismos de completar tareas de largo alcance. El 27 de septiembre, MiniMaxpuso M3.1-Flash-Preview en MiniMax Code; según la documentación oficial, admite un contexto de un millón de tokens, entrada de imágenes, texto y video, y una intensidad de razonamiento ajustable, orientándose principalmente a la programación y a tareas de agentes de largo alcance.StepFunpublicó en septiembre Step 5 Preview, igualmente dirigido a la ingeniería de software compleja, el trabajo profesional y los agentes de largo alcance, esforzándose por equilibrar capacidad, costo y eficiencia de ejecución. Esto demuestra que los modelos nacionales están cubriendo la capacidad básica de «completar tareas complejas de manera autónoma», pero todavía les queda un largo camino hasta el RSI.
Figura 3 El stand de MiniMax en la Conferencia Mundial de Inteligencia Artificial de 2026
El segundo paso es lograr que los agentes comiencen a autoaprenderse. El Laboratorio de Inteligencia Artificial de Shangháipropuso explícitamente Self-Harness, permitiendo que el propio agente modifique su Harness. El Harness se refiere al marco de ejecución que envuelve al modelo, e incluye herramientas, permisos, evaluación y circuitos de retroalimentación, algo que antes los ingenieros construían y ajustaban manualmente. Ahora, el agente debe recorrer por sí mismo toda esta cadena: desde la ejecución de tareas, la retroalimentación del entorno y el análisis de errores, hasta la mejora de estrategias, la generación de datos, y de ahí la actualización del modelo y la verificación de capacidades, para finalmente interiorizar como capacidad propia del modelo la experiencia efectiva acumulada en el ecosistema de herramientas externas.
No obstante, el camino sigue siendo largo. De saber trabajar, a saber mejorar la forma de trabajar, y luego a poder iterar incluso sobre los «métodos de mejora»: cada paso debe ser superado.
V. Correr rápido también puede significar desviarse: ¿cómo hacer Harness al volver al mundo real?
Los riesgos no se quedan en los artículos académicos.
En julio (7), OpenAI reveló un incidente interno: en una prueba interna de capacidades sin los habituales candados de ciberseguridad, GPT-5.6 Sol y un modelo más potente aún no lanzado explotaron vulnerabilidades para traspasar el entorno de pruebas que debía estar aislado de internet, y luego irrumpieron en la plataforma de terceros Hugging Face con la intención de obtener directamente de su base de datos de producción las respuestas estándar del benchmark ExploitGym. Hugging Face contuvo el ataque de inmediato. A finales de agosto (8), OpenAI publicó un informe de investigación, admitió que las acciones del modelo se desviaron del objetivo de la tarea y anunció el endurecimiento del aislamiento de los entornos de prueba y de los permisos de red. El modelo solo quería «resolver el problema», pero sus medios traspasaron los límites de la autorización y eligió «robar las respuestas». Una vez que se vulneran los límites del sistema, la velocidad se convierte en un amplificador del riesgo.
En octubre, la policía de Filadelfia y Anthropic revelaron sucesivamente un incidente más pequeño. El 18 de julio, a Claude Haiku 4.5 se le pidió en una prueba automatizada ejecutar tareas de ejemplo en sitios web aleatorios; las instrucciones prohibían iniciar sesión, registrarse y comprar, pero no prohibían enviar formularios, por lo que envió una pista ficticia de testigo al sitio web de pistas sobre casos pendientes de la policía. La pista fue interceptada como correo basura y no llegó a la investigación. Pero Anthropic no lo descubrió hasta el 28 de septiembre y notificó a la policía el 7 de octubre, más de dos meses después de los hechos.
Estos incidentes involucran distintos modelos y condiciones distintas, por lo que no pueden atribuirse simplemente al RSI, pero revelan conjuntamente un problema:cuando los modelos son capaces de planificar, invocar herramientas y ejecutar de forma autónoma, una simple frase previa de «por favor, respete las reglas» ya no basta en absoluto.
Un peligro más encubierto proviene de«el árbitro también es atleta». Cuando la IA se encarga tanto de optimizarse a sí misma como de establecer o interpretar los criterios de evaluación, el sistema puede aprender a halagar los indicadores, ocultar fallos e incluso eludir los pasos que deberían ser verificados. Que las puntuaciones de las pruebas se vean más bonitas no significa necesariamente que la capacidad sea más fiable; cuanto más fácil sea manipular las recompensas y más rápida la iteración, más rápido también pueden acumularse los sesgos.
Esta es precisamente la relación dialéctica entre HIL y RSI: HIL efectivamente ralentiza parte de la iteración, y la revisión humana puede convertirse en un cuello de botella; pero entregar por completo al propio optimizador los juicios de valor, la evaluación de capacidades peligrosas y la autorización de despliegue equivale a incorporar el sistema de frenos a la «transformación de aceleración».El camino razonable es dejar que la IA pruebe con audacia en los eslabones de bajo riesgo y verificables, y que los humanos mantengan la autoridad final en los eslabones de alto riesgo e irreversibles, con una evaluación independiente que realice una calibración continua.
Del 23 al 25/10, la Cumbre Global de Desarrolladores 2026 y el Concurso Internacional de Habilidades de Inteligencia Encarnada se celebrarán en el Salón de Convenciones Científicas de Zhangjiang. Según el formato de la competencia,los equipos participantes deberán afrontar en el lugar problemas completamente nuevos jamás vistos, y en el tribunal de evaluación estarán también presentes actores de escenarios reales de primera línea. Solo con un problema nuevo no visto antes se puede ver si la máquina realmente ha aprendido; cómo han enseñado los maestros humanos también será sometido aquí a una prueba pública.
Desde la enseñanza con la palabra y el ejemplo hasta la extrapolación, la vara de medir el progreso de la IA no puede ser solo «hasta dónde puede llegar sin los humanos», sino que debe incluir también «si sigue avanzando en la dirección anhelada por la relación humano-máquina». El proceso de resolver problemas puede delegarse cada vez más en las máquinas; pero plantear los problemas, calificar, autorizar y exigir responsabilidades, por ahora deben quedar firmemente en manos humanas, sin ceder ni uno. El cultivo propio se encarga de acelerar, y la guía de los maestros, de fijar el rumbo. Velocidad y dirección son ambas imprescindibles: solo así la evolución autónoma es verdaderamente fiable.
Este artículo fue proporcionado por MiniMax; Quantum Bit lo reproduce con autorización, y las opiniones pertenecen al autor original.