أصبحت OpenAI نموذج Decisions API الخاص بها متاحاً على نطاق واسع للمستخدمين لأول مرة، دخولاً إلى سوق الذكاء السريع والرخيص الذي جعل مؤخراً TypeSafe، وهي شركة ناشئة أسسها باحث سابق في المختبر الرائد، شركةً بقيمة 7.6 مليار دولار.
أنشأ نموذج Jev من TypeSafe فئة جديدة لنماذج التعلم العميق التي تعمل كمصنفات فائقة: عند إعطائها مجموعة من الخيارات، يمكنها اتخاذ القرارات بسرعة وتقديم تقييم ثقة لقرارها. سرعان ما وجد مطورو البرمجيات أن نماذج القرار هذه أو نماذج النظام الأول يمكنها استبدال نماذج LLM في مجموعة متنوعة من سير العمل، حيث تعمل بسرعة أكبر وبكلفة أقل بكثير.
قال نيكونج هاندا، مدير المنتج لواجهات برمجة التطبيقات في OpenAI، لموقع TechCrunch إن زملاءه رأوا Jev وقالوا "واو، لدينا مليون حالة استخدام لهذا". سارعت فريق هاندا لتقديم نسختهم الخاصة: بدلاً من بناء نموذج قرار معايَر خصيصاً، أخذ الفريق ChatGPT Luna وأعاد تشكيله لتسريع الاستدلال وخفض التكلفة.
قال هاندا: "المكسب الكبير مع Decisions API كان السرعة، تقليص الأشياء من ثانية إلى ثلاث ثوانٍ إلى 100 و120 و180 مللي ثانية". وأضاف: "في المستقبل، قد يكون لدينا تدريب محدد لجعل نماذجنا أفضل حتى في هذه الجوانب. لكن في الوقت الحالي، إنها ببساطة Luna القديمة التي تنجز المهمة".
أُعلن عن Decisions API في يوم المطورين للشركة في 29 سبتمبر، وأصبح متاحاً لجميع العملاء يوم الخميس. أضافت OpenAI وسائل الإدخال الصوتية والبصرية الجديدة إلى النسخة العامة، وعملت على ضمان زمن استجابة أقل في المناطق حول العالم من خلال استهداف موارد الاستدليل جغرافياً.
في التجارب الأولية مع عملاء مثل Box وDatadog وRamp وSpeak، استخدم المهندسون واجهة برمجة التطبيقات لاستبدال نماذج LLM من OpenAI بإنتاجية أعلى. قال أندرو هسو، المدير التقني في Speak، التي تبني معلمين لغويين بالذكاء الاصطناعي، إن Decisions API سمحت للشركة بتقليص الوقت بين الإجراءات من 1.4 ثانية إلى .13 ثانية. كما استخدمت OpenAI المنتج لتحسين استجابة مساعد الصوت Dots الخاص بها.
ومع ذلك، ليس من الواضح تماماً ما يجعل نموذج قرار جيداً، باستثناء أنه "يعمل لك" — يبدو أن التحسين عبر الذكاء والتكلفة والمعايرة والسرعة يختلف حسب عبء العمل. الرئيس التنفيذي لـ TypeSafe ديوجو ألميدا لا يثق في المعايير المرجعية ويحث الناس على تجربة النماذج في أعمالهم الخاصة، ولكن حتى TypeSafe أصدرت تصنيفاتها الخاصة الأسبوع الماضي بالتزامن مع إطلاق أحدث نموذج Jev لها، الذي يتضمن ميزات جديدة تشمل دعم الصور وعبارات smart-if.
المعايير المرجعية العامة مثل AIM System One Index و Artificial Analysis Decision Index تميل إلى تفضيل D1 Ultra، وهو نموذج قرار جديد أطلقته Liquid الأسبوع الماضي، وElephant-1 من Base Lab. يظل أحدث نموذج Jev تنافسياً في كلا المؤشرين، في المركزين السابع والثالث، بينما يقع نموذج القرار من OpenAI في المركزين الثامن والرابع عشر على التوالي. ومع ذلك، فإن عروض TypeSafe هي، في الوقت الحالي, الأكثر استعلاماً على OpenRouter.
ومع ذلك، فإن أكثر معايير Jev المرجعية متعة هو JevMan، وهو معيار مرجعي تلعب فيه نماذج القرار لعبة PacMan؛ ويحتل أحدث نموذج Jev صدارة هذا التصنيف. قال فيليكس وندرليش، رئيس النمو في Opper AI، التي بنت هذا المعيار، إن اللعبة الكلاسيكية "اختبار مثير للاهتمام بسبب تدفقها المستمر من القرارات السريعة عالية المخاطر. عند كل تقاطع، يجب على النموذج أن يقرر أين يتجه خلال بضع مئات من المللي ثانية".
قد يتميز نموذج OpenAI الأكثر قدرة على الأرجح في تعدد الوسائط — لتصنيف الصور، قال هاندا لموقع TechCrunch: "Luna قوية للغاية وأظهرت معايرات أفضل"، مضيفاً أن عملاء OpenAI يريدون من Decisions API أن تكون أكثر مرونة في استخدام الصور كمخرجات أيضاً.
رأى هاندا أيضاً زيادات إضافية في السرعة تمكّن حالات استخدام جديدة: "هل يمكننا الوصول بهذا إلى حوالي 60 مللي ثانية، ثم يمكن أن تتخيل استدعاء API لكل إطار واحد في الفيديو؟"
مع صيرة هذه العروض أسرع وأرخص، يمكننا أن نتوقع منها أن تفسي بمعنى اسم Jev، وهو اقتصادي شرح كيف يجعل الاستخدام الأكثر كفاءة للمورد أكثر انتشاراً. أو، كما يرى هاندا، ستكون هناك "مجموعة مجنونة من حالات الاستخدام" تتوسع وكانت مختبئة في وضوح حتى كشفتها نماذج القرار.