Tibo de OpenAI (Thibault Sottiaux) lanzó el 10月12日 un ajuste que hace respirar aliviados a los usuarios intensivos de código: en los entornos Codex y Work, la ventana de contexto por defecto de GPT-6.1Sol pasó de golpe de 27.2万 token a 50万 token, lo que equivale a ampliar aproximadamente un 80% la "memoria a corto plazo" del modelo.
Tibo explicó que, aunque OpenAI seguirá elevando este límite más adelante, esta ampliación ya es suficiente para reducir de manera notable la frecuencia con que se activa la compresión de contexto; la llamada compresión de contexto es ese momento incómodo en que, cuando el cerebro del modelo ya no puede contener más, se ve obligado a resumir apresuradamente el contenido anterior y descartar detalles. Con una ventana más ancha, en aquellas tareas que requieren sostener durante mucho tiempo grandes cantidades de contexto y están cargadas de detalles complejos, el modelo puede llevarlas con más calma abrazadas todo el camino, sin tener que ponerse a limpiar con frecuencia.
Recalcó especialmente que este valor por defecto de 50万 token está completamente probado y que, para la gran mayoría de los usuarios, se encuentra justo en el punto óptimo de equilibrio entre experiencia y rendimiento, ese llamado desde hace mucho tiempo "sweet spot". Por supuesto, si alguien considera que aún no es suficiente o que es un desperdicio, el mando manual sigue abierto: el límite máximo de longitud de contexto que GPT-6.1Sol admite es de 100万 token, y el usuario decide si quiere llevarlo al máximo o reducirlo.
El golpe más tangible se refleja en la factura. Junto con esta ampliación de la ventana, cuando OpenAI deduzca el uso de la suscripción, ya no cobrará un recargo por contexto largo para GPT-6.1Sol; aquel cargo extra que antes se aplicaba por alargar el contexto ahora se elimina directamente. Cuando una empresa lleva la línea de memoria del modelo hasta 50万 y de paso elimina la prima por textos largos, lo que quiere conservar claramente no es solo el código de los desarrolladores, sino también esa factura de la cartera del desarrollador que originalmente crecía junto con el contexto.