Tibo (Thibault Sottiaux) von OpenAI verkündete am 12. Oktober eine Anpassung, die insbesondere Vielnutzer von Code aufatmen lässt: In den Codex- und Work-Umgebungen wurde das Standard-Kontextfenster von GPT-6.1 Sol schlagartig von 272.000 Token auf 500.000 Token erhöht, was einer Erweiterung des „Kurzzeitgedächtnisses“ des Modells um etwa 80 % entspricht.
Tibo erklärte, dass OpenAI diese Obergrenze zwar künftig weiter anheben wird, doch diese Erweiterung reiche bereits aus, um die Häufigkeit, mit der die Kontextkompression ausgelöst wird, spürbar zu senken – die sogenannte Kontextkompression ist der unangenehme Moment, in dem das Modell, wenn sein Kopf voll ist, gezwungen ist, die vorherigen Inhalte hastig zusammenzufassen und Details zu verwerfen. Mit dem breiteren Fenster kann das Modell bei Aufgaben, die langes Halten großer Kontextmengen erfordern und mit komplexen Details gespickt sind, diese viel gelassener durchgehend im Griff behalten, ohne häufig aufräumen zu müssen.
Er betonte besonders, dass dieser Standardwert von 500.000 Token gründlich getestet wurde und für die allermeisten Nutzer genau am optimalen Balancepunkt zwischen Erlebnis und Leistung liegt – der vielzitierte „sweet spot“. Wer das dennoch nicht ausreichend findet oder es für Verschwendung hält, für den bleibt der manuelle Regler geöffnet: Die maximal unterstützte Kontextlänge von GPT-6.1 Sol beträgt 1.000.000 Token, und ob man voll ausreizt oder zurücknimmt, bleibt dem Nutzer selbst überlassen.
Der greifbarste Schnitt fällt bei der Rechnung. Im Zuge dieser Fenstererweiterung erhebt OpenAI beim Abzug der Nutzung vom Abo keine separaten Langkontext-Gebühren mehr für GPT-6.1 Sol – der frühere Aufpreis, der durch den verlängerten Kontext anfiel, wird nun direkt gestrichen. Wenn ein Unternehmen die Speichergrenze seines Modells auf 500.000 zieht und obendrein den Langtext-Aufpreis abschafft, will es offensichtlich nicht nur den Code der Entwickler behalten, sondern auch jene Rechnung aus der Brieftasche der Entwickler tilgen, die zuvor mit dem Kontext mitgewachsen wäre.