رمى Tibo من OpenAI (Thibault Sottiaux) في 12 أكتوبر تعديلًا يجعل مستخدمي الأكواد المكثفين يتنفسون الصعداء: في بيئتي Codex وWork، قفزت نافذة السياق الافتراضية لـ GPT-6.1Sol فجأة من 272 ألف token إلى 500 ألف token، أي بمثابة توسيع "الذاكرة قصيرة المدى" للنموذج بنحو 80%.
يوضح Tibo أنه رغم أن OpenAI ستواصل رفع هذا الحد لاحقًا، فإن هذه الزيادة وحدها كفيلة بخفض وتيرة تفعيل ضغط السياق بشكل واضح — والضغط المقصود به هو تلك اللحظة المحرجة التي يضطر فيها النموذج، عندما لا تتسع ذاكرته، إلى تلخيص المحتوى السابق على عجل ورمي التفاصيل. وبعد اتساع النافذة، تستطيع النماذج احتضان المهام التي تتطلب الاحتفاظ بسياق ضخم لفترات طويلة وتتشابك بتفاصيل معقدة بثبات أكبر على طول الطريق، دون الحاجة إلى التنظيف المتكرر.
ويشدد بشكل خاص على أن القيمة الافتراضية البالغة 500000 token قد اختُبرت جيدًا، وتمثل بالنسبة للغالبية العظمى من المستخدمين نقطة التوازن المثلى بين التجربة والأداء، أي تلك "sweet spot" التي طال الذكر عنها. وبالطبع، إذا شعر أحدهم أنها غير كافية أو رآها مبذرة أكثر من اللازم، فالمِقبض اليدوي ما زال متاحًا: الحد الأقصى لطول السياق الذي يدعمه GPT-6.1Sol هو 1000000 token، وسحبها إلى أقصى حد أو تقليصها يبقى أمرًا بيد المستخدم.
أما الضربة الأكثر واقعية فقد سقطت على الفاتورة. وترافقًا مع توسيع النافذة هذا، لن تفرض OpenAI، عند خصم الاستهلاك من الاشتراكات، أي رسوم سياق طويل منفصلة على GPT-6.1Sol — فذلك المبلغ الإضافي الذي كان يُحصَّل سابقًا بسبب تطاول السياق أُزيل مباشرةً. عندما تسحب شركة حد ذاكرة نموذجها إلى 500 ألف، وتلغي في الوقت نفسه علاوة النصوص الطويلة، فإن ما تسعى للاحتفاظ به ليس شيفرة المطورين فحسب، بل أيضًا تلك الفاتورة في جيوب المطورين التي كانت ستنتفخ أصلًا مع تضخم السياق.