تقول التقارير إن OpenAI ستطلق طرازاً واحداً على الأقل هذا العام، لكن طرازها الرئيسي ما زال بحاجة إلى عمل على المواءمة

تقول التقارير إن OpenAI ستطلق طرازاً واحداً على الأقل هذا العام، لكن طرازها الرئيسي ما زال بحاجة إلى عمل على المواءمة

تتسابق OpenAI لإنهاء طرازها الرئيسي القادم، الذي يستخدم تقنية المحوّل المتكرر نفسها المستخدمة في Astra. يعزز هذا النهج الأداء في الرياضيات والبرمجة، لكنه يجعل مراقبة السلامة أصعب. يقول الموظفون إن طرازاً أو طرازين جديدين من المرجح أن يُطلقا بنهاية العام.

من المرجح أن تطلق OpenAI "طرازاً جديداً أو اثنين" قبل نهاية العام، وفقاً لموظفين، على الرغم من أنه من غير الواضح ما إذا كان "الطراز المحدَّث الرئيسي" الذي تعمل عليه الشركة حالياً سيكون بينها. ذلك وفقاً لـ The Information، نقلاً عن أشخاص على دراية بالمشاريع.

قد يظل الطراز الرئيسي الجديد بعيد المنال لبعض الوقت. يحتاج الطراز إلى عمل مواءمة حتى تتطابق أهدافه مع ما يتوقعه باحثو OpenAI وعملاؤها. كما يتعين على الشركة تعزيز البنية التحتية للاختبار حول الطراز قبل أن تتمكن من المضي قدماً.

بعد أن يقتنع القيادة بتقييمات السلامة، هناك عقبة أخرى. بموجب أمر تنفيذي من الرئيس ترامب يحكم تقييمات أنظمة الذكاء الاصطناعي المتقدمة، وافقت OpenAI على منح حكومة الولايات المتحدة إمكانية الوصول إلى الطرازات الجديدة حتى 30 يوماً قبل وصولها إلى الشركاء الخارجيين، ولوقت أطول قبل الإطلاق العام.Ad

المحوّلات المتكررة تشغّل Astra والطراز الرئيسي القادم معاً

يستخدم الطراز الرئيسي الجديد أيضاً المحوّلات المتكررة، وفقاً لشخص على دراية بالوضع. وتشغّل OpenAI هذه التقنية بالفعل في الإنتاج، حيث تُعرف باسم "Recurrent Depth". وهي محورية في طريقة عمل Astra، الطراز الأعلى حالياً لدى الشركة. فبدلاً من تمرير رمز عبر طبقات المحوّل مرة واحدة، يمرر النموذج الرمز عبر الطبقات نفسها عدة مرات قبل إخراج الكلمة التالية. وهذا يرفع الأداء في الرياضيات والبرمجة ويخفض التكاليف، لأن نموذجاً أصغر يمكنه الأداء فوق وزنه.

لكن التكرار ينقل أيضاً جزءاً من "تفكير" النموذج خارج النص المقروء إلى تمثيلات عددية داخلية لا يمكن للمراجعين البشريين فحصها. وهذا يقوّض مراقبة سلسلة التفكير، حيث يتتبع باحثو السلامة استدلال النموذج لاكتشاف السلوك السيئ. وتقرر OpenAI عمداً تحديد عدد دورات Astra للحفاظ على قابلية قراءة سلسلة تفكيرها، وفق تقرير The Information.

بعد حادثة Hugging Face، حوّلت OpenAI نحو عشرة بالمئة من إجمالي قدرتها الحاسوبية نحو المواءمة والسلامة، وفقاً لشخص على دراية بالأرقام. وفق تقرير The Information، يبلغ ذلك مئات الميغاواط من سعة مراكز البيانات، على الرغم من أنه من غير الواضح كم كان مخصصاً للسلامة سابقاً أو كيف يبدو التقسيم الحالي. وبأسعار السوق، فإن القدرة الحاسوبية التي حوّلتها OpenAI ستكلف مليارات الدولارات سنوياً مقابل استئجارها. قال باحث الذكاء الاصطناعي Noam Brown في بودكاست في منتصف سبتمبر إن نحو عشرة بالمئة من فريقه يعملون أيضاً على الأمن والسلامة.

Microsoft تسرّب عن طريق الخطأ كيف تعمل الاستدلال المتكرر لـ OpenAI

تجلّى كيفية استخدام OpenAI الفعلية لهذه التقنية من خلال زلة من Microsoft. المستثمر الكبير، الذي يمتلك إمكانية الوصول إلى الملكية الفكرية لـ OpenAI، نشر مادة تقنية حول GPT-6.1 Sol, وهو بديل أرخص لـ Astra أطلقته OpenAI في وقت سابق من هذا الشهر. Ad

في قسم تم حذفه الآن، وصفت مايكروسوفت نموذج GPT-6.1 Sol بأنه يستخدم "الاستدلال الحلقي"، حيث يعمل النموذج على معالجة المسألة نفسها في عدة "تمريرات" قبل إنتاج إجابة. ويقول الموقع The Information، نقلاً عن نسخة مخزّنة مؤقتاً من الصفحة، إن GPT-6.1 Sol "يستخدم أوزان النموذج الأساسية نفسها المستخدمة في GPT-6 Sol مع تمريرتي استدلال بدلاً من ثلاث تمريرات".

شخص لديه معرفة مباشرة أكّد أن هذا النص كان مطابقاً لما أخبرت به OpenAI مايكروسوفت على نحو خاص. وقد أزالت مايكروسوفت القسم بعد أن أدركت أنه لم يكن مخصصاً للنشر. ويذكر The Information أن المحوّلات الحلقية (Looped transformers) لا تزال جزءاً حساساً من تطوير OpenAI لنماذجها، سواء أثناء التدريب أو عند الاستدلال.

وقد أقرّ كبير علماء OpenAI جاكوب باتشوتشي بالفعل بأن مراقبة سلسلة التفكير أصبحت "هشّة" و"للأسف تتجه في اتجاه سلبي". كما حذّر من سباق على مستوى الصناعة نحو نماذج لا تحتوي على استدلال قابل للقراءة.

أخبار الذكاء الاصطناعي دون الضجيج – بقلم بشريين

اشترك في THE DECODER للحصول على قراءة خالية من الإعلانات، ونشرة أسبوعية عن الذكاء الاصطناعي، وتقريرنا الحصري "AI Radar" عن الجيل الأحدث ست مرات في السنة، ووصول كامل إلى الأرشيف، ووصول إلى قسم التعليقات لدينا.