نقاط رئيسية
- أسس الباحث السابق في Deepmind، ثور جرابيل، شركة Metis Reasoning لجعل أنظمة الذكاء الاصطناعي أكثر موثوقية وقابلية التحقق، باستخدام نهج AlphaGo كمخطط أساسي.
- تفصل الطريقة المعرفة عن أوزان النموذج وتخزنها في سجل خارجي، حيث يقوم وحدة مستقلة بفحص كل افتراض ضد الأدلة.
- النهج يهدف إلى تقليل الخرافات وتقديم تفسيرات مدعومة بمصادر، لكن حتى الآن يوجد فقط كإطار نظري دون نظام عملي.
الباحث السابق في شركة Deepmind، ثور جرايبيل، يرغب في بناء أنظمة ذكاء اصطناعي تتبع ما يعرفه ويتحقق من كل استنتاجات ضد الأدلة. وفقًا لفريقه، فإن نماذج اللغة الكبيرة لن تحل هذه المشكلة.
يعتقد ثور جرابيل أن نفس الفكرة التي سمحت لـ AlphaGo بتغلب على اللاعب المحترف في الشطرنج، لي سي دول، في عام 2016، يمكن أن تجعل الأنظمة الذكية أكثر موثوقية، بما في ذلك الروبوتات. وقد أسس الباحث السابق في Deepmind شركة Metis Reasoning، وشرح هذا النهج في مؤتمر GTC الخاص بشركة Nvidia في برلين، حيث توسع الشركة المصنعة للشريحة منصةها للروبوتات والذكاء الاصطناعي الفيزيائي بهدف تحويل مشكلة بيانات الروبوتات إلى مشكلة حسابية.
سجل معرفة بدلاً من المعرفة المدمجة في أوزان النموذج
تتكون نماذج اللغة اليوم من شبكة التنبؤ الخاصة بـ AlphaGo، التي تقدم خطوات محتملة، وفقًا لمعلومات Metis. قام AlphaGo بتجميع هذه الشبكة مع بحث منهجي عبر تسلسلات الألعاب، ووجد الحركة الشهيرة رقم 37، وهي حركة كان من الممكن أن يحصل عليها اللاعب البشري بنسبة تقارب واحد من عشرة آلاف. تريد Metis أن تطبق هذا النوع من البحث على التفكير العام.
يتطلب ذلك ما تسميه الشركة في ورقتها البحثية سجل المعرفة الصريح، الذي يشبه لوحة اللعبة. توجد أفكار مماثلة بالفعل: تقوم GraphRAG التابعة لشركة مايكروسوفت بتنظيم المعرفة خارج أوزان النموذج في رسم بياني للمعرفة، بينما يقوم AlphaGeometry2 التابعة لجوجل بربط نموذج لغة مع محرك رمزي يصدق على البراهين الرياضية. تريد Metis توسيع هذه المبادئ لتشمل الأسئلة المفتوحة في العالم الحقيقي.
يقوم سجل المعرفة الخاص به بتسجيل ما هو معروف، ومدى الثقة التي يمتلكها النظام، والأسئلة التي لا تزال مفتوحة. يقوم وحدة منفصلة بفحص الإدخالات الجديدة مقابل الحسابات، والأدلة الرسمية، أو الأدلة التجريبية، وعندما يتغير الافتراض، يتم إعادة تقييم كل الاستنتاجات التي تعتمد عليها. يمكن أن يكون "الحركة" سؤالًا، تجربةً، أو تحديًا لافتراض موجود؛ يقوم النظام باختيار الأمر الذي يقلل من عدم اليقين بشأن السؤال الأصلي، وفي النهاية يقدم إما إجابة أو يمتنع بشكل مبرر.
كما في AlphaGo، يقترحان شبكتان عصبيتان الخطوات وتقييمها، وقد تم تدريبهما على البحوث السابقة المسجلة، لكنهما غير قادرين على تجاوز قواعد التحقق. تقول Metis إن هذا الإعداد يجب أن يؤدي إلى انخفاض في الخرائط الخاطئة، وتفسيرات مع ذكر المصادر، ومعرفة يمكن تغييرها أو حذفها دون إعادة التدريب. نظرًا لأن التفكير ينقسم إلى خطوات صغيرة، فإن هذه الطريقة قد تفيد النماذج الصغيرة التي تعمل على الأجهزة الحديثة والروبوتات.
لا تزال الشركات لا تثق في نماذج اللغة بما يكفي لتطبيقها
وفقًا لميتيس، فإن المزيد من البيانات والحسابات يعمل على تحسين نماذج اللغة، لكنه لا يحل المشكلات الأساسية للتكنولوجيا: النماذج تخلق الإجابات، ولا يمكن التحقق من سلاسل التفكير الخاصة بها، ومعرفتها محصورة داخل الأوزان. الهلوسة تأتي من عملية التدريب نفسهايقول البحث إن النماذج تتعلم إنتاج نصوص معقولة بدلاً من النصوص الحقيقية، وحتى غالبًا ما تفشل سلاسل التفكير في نماذج التفكير الحالية في إظهارها كيف تم التوصل إلى الإجابة فعليًا.
يقول البحث إن هذا هو السبب في أن الذكاء الاصطناعي لم يكن له تأثير اقتصادي كبير حتى الآن. عندما يتصرف الوكيل نيابة عن الشركة، من الصعب تتبع الأخطاء إلى مصدرها، ولا يمكن إزالة المعرفة الخاطئة من النموذج. انتشر الذكاء الاصطناعي في هندسة البرمجيات لأن الكود سهل الاختبار والتراجع عنه، لكن في مجالات الطب والمالية وتصميم الرقائق والروبوتات، يقول البحث إن الذكاء الاصطناعي يحتاج إلى التحقق منه من البداية.
الورقة البيضاء تصف فقط برنامجًا بحثيًا، بدون نظام عملي، بدون معايير مقارنة، وبدون مقارنات مع نماذج التفكير الحالية. يعترف الفريق بأن العالم الحقيقي، على عكس Go، يوفر معلومات جزئية فقط، وأن الأدلة قد تكون مكلفة للحصول عليها، وأن بعض الأسئلة ببساطة لا تحتوي على إجابة. السؤال الأكبر غير المُجَمَّع هو كيف ستتخذ سجلات المعرفة المؤكدة شكلًا في المجالات المعقدة التي تتجاوز أمثلة الكتب المدرسية، نظرًا لأن أنظمة الذكاء الاصطناعي الرمزي فشلت في السابق بالضبط لأن كل معرفتها كان يجب إدخالها يدويًا.
بعد سيلفر وروكتاسيل، شخص آخر من خبراء ديب مايند يفعل ذلك بمفرده
وفقًا لموقعه الإلكتروني، حصل جرابيل على درجة الدكتوراه في التعلم الآلي في برلين عام 2001. في معهد مايكروسوفت للأبحاث، ساعد في بناء TrueSkill، نظام المباريات الذي يعمل خلف Xbox Live. ثم انتقل إلى شركة Deepmind، حيث عمل على AlphaGo، AlphaZero، وMuZero. بعد فترة عمل في Altos Labs، شغل مؤخرًا منصب في فريق Google Deepmind بعد AGI، وغادر هذا الفريق خلال الصيف. كما يحمل منصب رئيس قسم التعلم الآلي في جامعة لندن. وفقًا لـ برنامج بلومبرغ، يجمع جرابيل أموالًا بقيمة عشرات الملايين من الدولارات لشركة Metis، مع خطة لتمويل إضافي بقيمة مئات الملايين من الدولارات بقيمة أعلى قيد التخطيط.
هو أحد آخر مهندسي الاختراقات الشهيرة لشركة Deepmind، حيث بنى شيئًا خارج Google. الزميل السابق ديفيد سيلفر أسس شركة Ineffable Intelligence، وأغلق أكبر جولة تمويل للشركات الناشئة الأوروبية. تيم روكتاسيل أسس Recursive، والتي تقدر الآن بـ 4.65 مليار دولار. البعض يذهب مباشرة إلى المنافسين. وفقًا لصحيفة Financial Times، قامت Deepmind بفصل الفريق المسؤول عن AlphaFold، وقد غادر جون جامبر، الحائز على نوبل، مع زميلين إلى Anthropic. CNBC تتبع تدفق المواهب جزئيًا بسبب قلة الوصول الداخلي إلى شرائح TPU في Google والبيروقراطية، بينما فقدت Deepmind استقلالها وتراجع ديميس هاسابيس عن العمليات اليومية.
المصدر: Metis Reasoning