OpenAI-Ingenieur Thibault Sottiaux (Tibo) gab an diesem Tag bekannt, dass die Standardkontextlänge von GPT-6.1 Sol in den Codex- und Work-Umgebungen von 272k Tokens auf 500k gesteigert wurde, mit einem Anstieg von etwa 80%.
Dieser Wandel bedeutet, dass die Menge an Inhalt, die ein Modell in einer einzigen Unterhaltung verarbeiten kann, fast verdoppelt wird – egal ob es sich um das Durchlesen eines gesamten Codebaus oder eines langen Berichts handelt, oder um komplexe Aufgaben mit vielen Details, die mehrere Runden durchlaufen. Dann wird es schwieriger, die automatische Komprimierung auszulösen, und die Unterhaltung wird nicht plötzlich unterbrochen oder zwangsläufig zusammengefasst. Zum Beispiel bei der Suche nach den Quellen von Klauseln in einem Vertrag mit Hunderten von Seiten, oder wenn das AI kontinuierlich ein Entwicklungsprojekt mit ständig neuen Anforderungen verfolgt. Längere Fenster bedeuten weniger „Vergessenheit“ und weniger wiederholte Erklärungen. Für Benutzer, die stark auf das Langzeitgedächtnis angewiesen sind, ist die Verbesserung des Experiences ziemlich direkt, und dies spiegelt auch den Wettbewerb in der Branche, bei dem es um die Größe der „Fenster“ geht.
Manuell bis zu 1M, diesmal wird keine Gebühr für längere Texte erhoben
Tibo erklärt, dass 500k die „Südzone“ von Erfahrung und Leistung ist, die das Team nach wiederholten Tests für die meisten Benutzer gefunden hat, aber es ist noch lange nicht das Ende: Die Benutzer können weiterhin manuell Einstellungen vornehmen, und der maximale Wert, den GPT-6.1 Sol unterstützt, hat auf 1M erreicht.
Wichtiger ist die Veränderung auf der Kostenseite – durch diese Anpassung wird OpenAI beim Abzug der Nutzungsmenge nach Abonnement nicht mehr eine extra Kosten für lange Kontexte erheben. In der Vergangenheit wurden solche langen Fenster oft als teure Zusatzleistungen angesehen; jetzt wird diese Zusatzkosten standardmäßig nicht berechnet, was die Hürde für intensive Nutzung verringert. Da eine lange Kontextgröße heute ein wichtiges Verkaufsinstrument ist, wird die Erweiterungsvorteile direkt den Benutzern überlassen – das ist auch ein realer Wettbewerbsvorteil von OpenAI.