جينيفر نيفيل هي مديرة أبحاث شريكة في مايكروسوفت، وقد بنت مسيرتها المهنية على فهم وتطوير الذكاء الاصطناعي للاستخدامات الواقعية. ومثل التفاعلات بين البشر والذكاء الاصطناعي التي تدرسها، كان مسارها المهني المبكر متعدد الأوجه: الرياضيات، ثم الفيزياء؛ العلوم المعرفية، ثم العمل؛ وأخيرًا علوم الكمبيوتر—على الرغم من جهودها الكبيرة لتجنب هذا المجال.
في هذه المحادثة مع العالمة التطبيقية الرئيسية تشاد أتالا，تستكشف الدور الذي تلعبه التقييمات في دفع حدود أداء أنظمة الذكاء الاصطناعي الحالية لتلبية احتياجات المستخدمين، والـ“إخفاقات المفاجئة” التي تظهر عند اختبار النماذج بشكل أبعد من المعايير التقليدية. كما يشارك نيفيل في تقديم إرشادات عملية للتعامل مع أنظمة الذكاء الاصطناعي الحالية، ويناقش سبب أهمية التحليل الدقيق للبيانات عندما تكون النتائج مخالفة للتوقعات، وما علمتهها عقود من تقدم الذكاء الاصطناعي حول التنبؤ بما سيأتي بعد.
من مسار مهني غير متوقع إلى حدود التفاعل والتعلم في مجال الذكاء الاصطناعي، يطرح هذا الحدث سؤالًا أكبر: ما الذي يمكننا تعلمه عندما لا تسير المسار – سواء كان بشرية أو اصطناعية – بالطريقة التي نتوقعها؟
اشترك في برنامج البودكاست لبحوث مايكروسوفت:
السجل الكتابي
[موسيقى]
جينيفر نيفيل: كانت هناك أوقات شعرت فيها وكأنني أدور في فضاء بلا اتجاه. الأمور لم تكن تعمل بشكل صحيح. كنت أشعر بالإحباط. ثم نصل إلى مرحلة حيث نتعلم شيئًا ما، وكان الإثارة العاطفية التي تأتي من ذلك هو ما جذبني حقًا. القدرة على فهم شيء لم يفهمه أحد غيري بعد...
تشاد أتالا: بالطبع…
نيفيل: ... لأنه يقع فقط على حدود ما نعرفه عن الأمور.
المقدمة القياسية: هذا هو برنامج الإذاعة الخاص ببحوث مايكروسوفت، حيث يستكشف الباحثون في مايكروسوفت – الذين يدفعون التقدم من خلال الأبحاث العلمية والتكنولوجية الأساسية – من هم، وكيف، وما هو القادم في مجال الحوسبة والذكاء الاصطناعي.
[نهاية الموسيقى]
تشاد أتالا: مرحبًا، بكرة. أنا تشاد أتالا، عالم تطبيقي في معهد مايكروسوفت للأبحاث.
اليوم، أشاركني جينيفر نيفيل، مديرة الأبحاث الشريكة في مختبر مايكروسوفت للأبحاث، والبروفيسور سامويل دي كونتي لعلم الحاسوب والإحصاء في جامعة بوردو.
تدرس أبحاثها تعلم الآلات والذكاء الاصطناعي في المجالات التفاعلية والبيانات المنظمة، وتفحص كيف تؤثر نقاط البيانات التي يتم تدريب الأنظمة الذكية عليها في سلوكها، وكيف يتوافق ذلك مع ما يرغبه المستخدمون فعليًا.
في إطار هذه الأبحاث، نشرت أكثر من 130 ورقة بحثية مع أكثر من 10,000 مرجع، وحصلت على جوائز مثل جائزة مؤسسة العلوم الوطنية CAREER، ومكان في قائمة “10 أشياء يجب مشاهدتها” من IEEE في مجال الذكاء الاصطناعي (تظهر في علامة تبويب جديدة)، وأفضل جوائز الورقة البحثية من مؤتمر دولي حول استخراج البيانات (يُفتح في تبويب جديد) و وال مؤتمر دولي حول تمثيلات التعلم.
ما يثير إعجابي أكثر في عمل جين هو بصيرتها البارزة وقدرتها على وجود خط داخلي متسق مع تطور مجال الذكاء الاصطناعي، وأنا متحمس لأسمع المزيد عن كيفية وصولها إلى ما هي عليه اليوم.
جين، شكرًا لانضمامك إليّ.
جينيفر نيفيل: شكرًا على استضافتي.
أتالا: رائع. حسنًا، أود أن أعرف كيف وصلت إلى هذا المكان اليوم. دعنا نعود قليلاً إلى الوراء. عندما كنت طفلًا، كنت أرغب في أن أكون عالم فلكية فيزياء، لكن بالطبع أنا الآن أمتلك خلفية في علوم الكمبيوتر. متى عرفت أنت أنك تريد العمل في علوم الكمبيوتر؟
نيفيل: هذا سؤال جيد. أنا… عندما كنت صغيرة، أردت أن أفعل أي شيء غير علم الكمبيوتر لأن والدي كان يعمل في هذا المجال، وأردت أن أفعل أي شيء غير ما فعله والدي. لذلك، عندما ذهبت إلى الجامعة، درست الأكاديميات الرياضية ثم الفيزياء، لكنني لم أشعر بالتوافق مع هاتين التخصصين.
لذا تركت الجامعة لفترة، وعندما عدت إلى الجامعة مرة أخرى، اخترت تخصص العلوم المعرفية بدلاً من ذلك، وكان هذا التخصص أيضًا صعبًا عليّ؛ لم يكن فيه ما يكفي من الرياضيات. في ذلك الوقت، لو قال لي أحد: “الذكاء الاصطناعي هو المجال الذي يجب أن تشارك فيه، لأنه يجمع بين العلوم المعرفية والرياضيات والتفكير الحسابي”， أعتقد أنني كنت سأوفر لنفسي الكثير من الوقت، [ضحك] لكن ذلك لم يحدث.
وهكذا عملت لفترة من الوقت. ثم عندما عدت إلى المدرسة، قررت التخصص في علوم الكمبيوتر، لأن ما أردته هو التفكير في العمل مع البيانات والتعامل معها. وفي تلك اللحظة وجدت الذكاء الاصطناعي، بشكل عرضي فقط. لم أدرك حتى أنها جزء من علوم الكمبيوتر.
أتالا: رائع. حسنًا، من ناحية، الذهاب إلى تخصص علوم الكمبيوتر والرغبة في العمل في مجال البيانات أو الذكاء الاصطناعي أمر واحد، ومن ناحية أخرى، المشاركة في الأبحاث في هذا المجال أمر آخر. فما هي الأسئلة أو الأفكار الكبيرة التي دفعتك إلى البحث؟
نيفيل: أجل، هذه قصة مثيرة أيضًا. دخلت في البحث لأنني كنت في برنامج الشرف في تخصص علوم الكمبيوتر، وكجزء من برنامج الشرف، لدي لتنفيذ مشروع بحثي [لاوثر].
أتالا: إنه إلزامي، نعم.
نيفيل: هذا إلزامي. وعندما تحدثت مع الأساتذة حول ما يجب أن يكون عليه المشروع البحثي، قالوا فعلاً: “حسنًا، أنت من يجب أن يقرر الموضوع الذي تريد العمل عليه.”
وفي تلك اللحظة، كنت مهتمًا بالبيانات ومهتمًا بذكاء الأعمال، وقد فكرت كثيرًا. قرأت الكثير من المعلومات. وما قررت أن أبحث فيه هو كيفية استخراج البيانات من البيانات على الويب المتصلة ببعضها، ولذلك… عندما قررت أن هذه هي المسألة التي أريد العمل عليها، تم توجيهي إلى أحد أعضاء الفريق الأكاديمي…
أتالا: جيد.
نيفيل: … الذي بدأ للتو العمل في هذا المجال الناشئ الذي يُسمى التعلم العلائقي الإحصائي. وقمت بتطوير مشروعي في ذلك، ونشرت ورقة بحثية في ندوة، وكنت، إلى حد ما، مفتونًا بذلك.
أتالا: تم، نعم.
نيفيل: لم أخطط للذهاب إلى الجامعة، لكن تلك التجربة…
أتالا: نعم.
نيفيل: … جعلتني أرغب في الذهاب إلى الجامعة لإكمال دراستي.
أتالا: رائع. ما جزء منه تعجبك؟ هل كان الإثارة التي تأتي من البحث؟ أم كانت بيئة المؤتمر وطريقة النشر الأكاديمي؟
نيفيل: كانت حقًا متعة العمل في البحث، وكانت عملية البحث طويلة. كان هناك أوقات شعرت فيها أنني أفعل شيئًا عديم الفائدة، والأمور لا تسير بشكل جيد. كنت أشعر بالإحباط. لكن مستشاري كان دائمًا يدعوني بأن أستمر، وأننا نتعلم شيء ما. ثم نصل إلى مرحلة يكون فيها... فعل تعلم شيء ما، وكان ذلك مجرد الإثارة العاطفية التي حدثت، وهذا هو بالضبط ما جذبني. القدرة على فهم شيء لم يفهمه أحد آخر بعد…
أتالا: بالطبع.
نيفيل: ... لأنها تقع عند حدود ما نعرفه عن الأشياء، أي، إنها تشبه الدواء تقريبًا، صحيح؟ [ضحك] لذلك استمرت هذه الأبحاث طويلاً، من أجل ملاحقة ذلك الشعور نفسه.
ATALLA: تم القبض عليك. حسنًا، أحب ذلك. نعم، انضمت إلى مايكروسوفت في عام 2021 من العالم الأكاديمي. وفي الحقيقة، لا تزال أستاذًا، وقد تعلّمت وتقدّم النصائح لمدة 20 عامًا. ما دفعك للانتقال إلى جزء من حياتك المهنية هو البحث. في الصناعة، وكيف يمكنك وصف الفرق بين البحث الصناعي والبحث الأكاديمي؟
نيفيل: أبحاثي تتركز في نطاق واسع، من النظرية إلى التطبيق. عندما حصلت على إجازة سنوية بعد الحصول على منصبي العلمي، انتقل الكثير من الزملاء الذين كنت معهم إلى مختبرات الصناعة لأجل إجازة سنوية، ولم يعودوا إلى بوردو أبدًا. فكرت في الاتجاه الذي أريد أن أسير فيه، سواء النظرية أو التطبيق، وفي تلك المرحلة من مسيرتي المهنية، كان من الأفضل استكشاف الجانب النظري، لأن ذلك قد يسمح لي بالعودة إلى بوردو في المستقبل.
وهكذا ذهبت إلى معهد سيمونز في بيركلي لأقضي إجازة علمية، وكان ذلك نظريًا للغاية. كانت تجربة رائعة، لكن الانتقال إلى العالم الأكاديمي كان سلسًا بعض الشيء. في إجازتي العلمية الثانية، انتقلت إلى مركز MSR [Microsoft Research] وأقضيت إجازة علمية هناك. وبالطبع، فإن القدرة على رؤية كيفية تطبيق الخوارزميات نظريًا، وكيف تتطور في الممارسة وفي الأنظمة الحقيقية مع المستخدمين الحقيقيين والبيانات الحقيقية، هذا أمر صعب التراجع عنه. ولهذا السبب أنا لا زلت هنا.
أتالا: فهمت.
نيفيل: أعتقد أن الفرق بين البحث في الأكاديميات والصناعة يعتمد على… فعلاً، يتأثر ذلك بهدف البحث، أي إلى أي مكان تستهدف البحث. وأعتقد أن الجوهر متشابه، فالأسئلة التي تطرحها في الأكاديميات والصناعة متشابهة، لكن في الصناعة، قدرتك على تطبيق هذه النتائج على نطاق واسع في الأنظمة الحقيقية على البيانات الحقيقية تختلف كثيرًا عن الأكاديميات. وفي الأكاديميات، أعتقد أن الأسئلة تكون أكثر تجريدًا وتشمل تطبيقات في العديد من المجالات المختلفة في نفس الوقت. وهذا هو السبب في حصولك على تمويل من مؤسسات مثل DARPA [وكالة مشاريع البحث المتقدمة للدفاع] وNSF [الجمعية الوطنية للعلوم].
لكن في الصناعة، من الأسهل قليلاً أن تضع يديك على العمل الفعلي وتقوم بالعمل في الأنظمة الحقيقية. وهدفك هو المنتجات ومصالح الشركة. وعندما يحدث هذا النوع من التغييرات، ربما تتغير أنواع الأسئلة التي ستطرحها أو التي ستحقق فيها. لذا أعتقد أن الأمر رائع حقًا...
أتالا: نعم.
نيفيل: … في كلا المكانين، صحيح؟ أي أن هناك العديد من التآزرات بينهما، وأعتقد أن هناك العديد من الفرص للذهاب إلى الصناعة ثم العودة إلى الأكاديميا، أو الذهاب إلى الصناعة ثم البدء في الأكاديميا. لكن في الوقت الحالي، إذا كنت تعمل على أنظمة الذكاء الاصطناعي، أعتقد أن الصناعة هي المكان المناسب حقًا.
أتالا: فهمت. نعم. ربما تكون نصيحة مفيدة للأشخاص الذين يقررون اتجاه قرارهم المهني الآن.
لقد كنت في مايكروسوفت منذ أكثر من ست سنوات، وخلال تلك الفترة كنت أعمل على تقييم الذكاء الاصطناعي، وبالطبع، هناك عدد من الأسئلة والتحديات الأساسية الصعبة في هذا المجال.
وقد واجهت أعمالك لأول مرة، وأدركت قيمتها لأن جزءًا من أعمالك يقترح حلولًا لمعظم هذه المشاكل ويساعد في تحديدها. وكان رد فعلي الفوري هو شعور بالراحة لأنه يوجد شخص رائع مثلك يعمل على هذه الأمور، وستتعامل معها من أجلنا. وأقدر حقًا كيف تقوم بتوازن بين النقد لتقييم الذكاء الاصطناعي وتقديم الحلول في نفس الوقت.
لكنني أفهم أن ذلك مجرد جزء صغير من جدول أعمال البحث الواسع لديك. فكيف ستصف ميثاق البحث الحالي للفريق الذي تقوده هنا؟
نيفيل: فريقنا يُسمى فريق تفاعل وتعلم الذكاء الاصطناعي. ما نركز عليه حقًا هو محاولة توسيع آفاق سلوك هذه الأنظمة الذكية الاصطناعية في بيئات العمل الواقعية. وهذا يعني دراسة حدود أداء الأنظمة الحالية، وكيف يختبر المستخدمون ذلك في الممارسة العملية مع عمليات عمل حقيقية، ثم كيف يمكننا تحسين ذلك وتعزيز أداء النماذج في هذه المهام المعقدة التي يعمل عليها المستخدمون.
سبب تركيزنا على التقييم هو أننا نجد أن الطريقة المعتادة التي يستخدمها أخصائيو الذكاء الاصطناعي والتعلم الآلي في التقييم تتم من خلال معايير مقارنة بسيطة نسبيًا بالنسبة لطريقة استخدامها الفعلية في الممارسة. ولذلك نجد أن أول شيء يجب القيام به هو سؤال: ما الذي نريد الحصول عليه من هذه الأنظمة؟ وأيضًا تصميم تقييمات عملية لوضع الأنظمة في مثل هذه البيئات. لذا، فهذا يعني أمورًا مثل السلوك المتعدد الأفقيات، والبيئات التعاونية، والمهام ذات المدى الطويل التي يقوم بها المستخدمون.
ثم، بمجرد أن نتمكن من معرفة مكان الفجوات في الأداء أو المشاكل التي تحدث في تلك التقييمات، فإن ذلك يمنحنا أيضًا معرفة عن المكان الذي يجب تحسين هذه الأنظمة فيه، سواء من الناحية النظرية أو من خلال الخوارزميات.
لذلك نبدأ بالتقييم، ولكن في النهاية، ما نحاول فعله هو تطوير خوارزميات أفضل، ونماذج أفضل، وطرق تقدير أفضل...
أتالا: بالطبع.
نيفيل: … لتحسين أداء النماذج.
أتالا: نعم، إنه بوابة للفهم، وبالتالي يمكن من خلالها تجاوز الحدود وتحسين هذه الأنظمة.
نيفيل: نعم.
أتالا: لقد ذكرت تفاعلات التتابع المتعدد وبيئات التعاون. لديك بعض الأوراق البحثية الحديثة التي تتناول هذه الأمور بشكل محدد، مثل كيف قد يضلّ نماذج اللغة الطبيعية في المحادثات المتعددة التتابع أو كيف قد يفسدون المستندات في سيناريوهات العمل المعرفية الذاتية هذه. هل يمكنك أن تخبرني بمزيد من التفاصيل حول تلك المشاريع البحثية؟
نيفيل: بالطبع. هذه أمثلة على الحالات التي كان علينا فيها، إلى حد ما، الحصول على رؤى مبتكرة بشأن كيفية تنظيم التقييم لكي نتمكن فعليًا من التحكم واختبار سلوك النموذج في تلك السيناريوهات.
لذلك، في حالات المحادثات المتعددة الجولات، فعلنا هو أخذ معايير للجولة الواحدة؛ ربما يجب أن أقول إن أحد الأشياء التي لاحظناها تجاه المستخدمين في الممارسة العملية هي أنهم غالبًا لا يحددون بشكل كامل ما يحاولون فعله. فهم لا يعرفون كيف يقدمون مواصفات كاملة من البداية. أحيانًا ننسى هذا كعلماء الكمبيوتر ومهندسي البرمجيات، لكن المستخدمين العاديين قد لا يكونوا قادرين على تحديد الأمور بشكل كامل في الجولة الأولى. وبالتالي، يحاولون معرفة ما يفعلونه خلال جولات متعددة، ويضيفون شروط وتوضيحات خلال كل جولة.
لذلك، قمنا بأخذ مجموعات بيانات اختبارات تكرارية منفردة متاحة، ثم غيرنا التوجيهات المعقدة المنفصلة المحددة بالكامل، وطبقنا النماذج التي تُحاكي المستخدمين في تقديم التوضيحات خلال عدة تكرارات، ثم درسنا كيف تتصرف النماذج – كل النماذج الحالية التي لدينا – عند التعامل مع هذا النوع من المهام المحددة عبر عدة تكرارات.
ووجدنا أن الأداء الذي نلاحظه في سيناريوهات التحويل الواحد – وهو عالي جدًا، لأننا نقوم بتحسينه كمصممي النماذج – يتراجع بشكل كبير مع عدد مرات التحويل المتعددة. وهذا كان اكتشافًا مفاجئًا إلى حد ما، لأن لم يتم تقييم ذلك من قبل أحد.
أتالا: بالطبع.
نيفيل: … بهذه الطريقة من قبل. ولكن عندما نشرنا تلك الأبحاث في العالم، اتفق جميع مستخدمي الأنظمة معها، …
أتالا: نعم… بالطبع.
نيفيل: … “حسنًا، هذه هي تجربتي. كنت أعلم أن هذا يحدث. كيف يمكننا إصلاح ذلك؟” ومن بين الأمور التي نعمل عليها… نقوم باستخدام طرق التعلم التصاعدي لمساعدة النماذج على التعلم بشكل أفضل في هذه البيئات، وبهذه الطريقة يمكننا تصحيح ذلك السلوك.
لكن الحل العملي الذي تحدثنا عنه في الورقة هو أنه إذا وصلت إلى حالة من الارتباك عند استخدام النموذج، أي إذا قمت بتحديد شيء خلال عدة جولات، فقط أوقف المحادثة، ارفع كل شيء، عود إلى البداية، والآن، نظرًا لما تعرفه، قم بإعطاء تحديد كامل وجولة واحدة محددة…
أتالا: أفهم، نعم.
نيفيل: … ثم ستتصرف بشكل أفضل في هذا النوع من التفاعلات.
لذا، ربما هذا يشير إلى أنه على الرغم من أننا نبحث بشكل أساسي عن تحسينات آلية للنماذج، إلا أننا أحيانًا في هذه المشاريع نصل إلى فهم حول كيف يمكن ال مستخدمون تغيير سلوكهم...
أتالا: نعم. إذًا.
نيفيل: … للحصول على نتائج أفضل من النماذج، مثل المكان الذي هي فيه الآن …
أتالا: نعم…
نيفيل: … مع أدائهم.
أتالا: نعم. لقد لاحظنا أن أحد موضوعات بحثك هو كيف يمكننا تحسين هذه الأنظمة لتتماشى بشكل أفضل مع ما يريده المستخدمون فعليًا. وذكرت مثالًا يقول: “إننا نعلم أن المستخدمين غالبًا لا يحددون بوضوح ما يريدون في المرة الأولى، ونحن نقوم بالتفاعلات المتعددة المرات.” وبعد نشر هذه الورقة، أبدوا تأثرًا بهذا الإحباط المتعلق بالضياع في المحادثات المتعددة المرات.
كيف تعتقد أنت أنك تفهم رغبات المستخدمين واحتياجاتهم وتجاربهم، وكيف يرتبط ذلك بما تفعله، كما قلت، في محاكاة المستخدم، على سبيل المثال، لإجراء هذه التقييمات المتعددة الأفقية الطويلة؟
نيفيل: نعم، ذلك… رؤية ما يحاول المستخدمون فعله على نطاق واسع، وما هي الأخطاء والنجاحات التي يواجهونها في الأنظمة، هو أحد المزايا التي أعتقد أنك تحصل عليها إذا كنت في مختبر صناعي وتتمكن من رؤية البيانات على هذا النطاق.
لذلك، قمنا بعمل كثير مع مجموعات المنتجات داخل مايكروسوفت، من خلال تحليل سجلات المستخدمين على نطاق واسع، لفهم الأنماط الرئيسية للأعطال التي يواجهها المستخدمون. وهذا… يوفر نوعًا من البصيرة أو الدافع للعديد من الأعمال التي نقوم بها. وهناك العديد من مجموعات المنتجات الرائعة التي تُحلل أيضًا النجاحات التي حققها المستخدمون، مما يسمح لكم بتقديم توصيات للمستخدمين حول… ما هي المهام التي يمكنهم إنجازها بنجاح في الأنظمة التي لدينا الآن.
أعتقد أنه عندما بدأت محركات البحث لأول مرة، كان على الناس أن يتعلموا كيفية التفاعل معها...
أتالا: بالطبع.
نيفيل: … بطريقة تسمح بالحصول على المعلومات التي يبحث عنها بشكل فعال. ربما نسينا أن ذلك كان موجودًا من قبل، لأنه كان جزءًا أساسيًا من ما كان يفعله الجميع قبل ظهور هذه الأنظمة الذكية. لكن الآن أعتقد أن هناك تحول من محركات البحث إلى أنظمة الدردشة، وأعتقد أنه يجب أيضًا تعلم شيء من المستخدمين…
أتالا: نعم، صحيح.
نيفيل: … في هذا البيئة الجديدة. وأعتقد أن تحليل الأشياء الناجحة من حيث ما يفعله المستخدمون هو طريقة رائعة لبدء التوصيات …
أتالا: نعم.
نيفيل: … وكذلك توجيه المستخدمين أو تعليمهم بنفس الطريقة.
أتالا: أحب الطريقة التي تشرح بها فائدة النظر إلى البيانات الحقيقية، لكن ما معنى ذلك حقًا؟ هل تنظر فعلاً إلى البيانات الحقيقية؟ كيف يدخل الأمن السرى في هذا الأمر؟ ما نوع العمليات التي لديك لتسخير البيانات بشكل مسؤول في الواقع؟
نيفيل: أوه، نعم، هذا نقطة جيدة. شكرًا على طرحها. في الحقيقة لا ننظر إلى البيانات؛ بل نحلل البيانات على مستوى واسع لاستخلاص أنماط الفشل أو النجاح بطريقة تحافظ على الخصوصية. هناك أيضًا الكثير من القيود التي لا يمكننا رؤيتها بالعين المجردة. يمكننا فقط تطبيق طرق معينة لتحليل البيانات في بيئات محدودة للغاية. ثم، هذه الرؤى على مستوى أعلى التي تحافظ على الخصوصية هي ما يدفعنا لاستخدام الخوارزميات لاحقًا.
لتوضيح الأمور، نحن لا نقوم بتعديل البيانات أو ردودك، ولكن كل تفاصيل أكثر يمكنك تقديمها في ردودك، سواء كانت من خلال معلومات مُتبرع بها، أو عندما تعطي وصفًا لها، أو في التفاعلات التي تحدث بينك وبين النماذج، يمكن أن يتم تحويل هذه المعلومات إلى شيء يساعد على تحسين النماذج، دون الحاجة إلى أن ينظر الناس فعليًا إلى ما تفعله.
أتالا: لقد لاحظت أن التحول من البحث كوسيلة مهيمنة إلى تفاعلات الدردشة المتعددة الأوجه يحدث. ولكن الآن نرى أيضًا أن المهام التي تعتمد على العمل المعرفي التعاوني، أصبحت أكثر أهمية، ولاحظت أنك قمت ببعض العمل في هذا المجال أيضًا. هل هناك استنتاجات مثيرة أخرى ترغب في مشاركتها مع المستمعين؟
نيفيل: أيوه. لذا لدينا كل منهما بعض الأعمال النظرية التي تحاول تحديد أنواع المهام التي تعتبر صعبة جدًا بالنسبة للمحولات في داخل النموذج، بالإضافة إلى المزيد. عمل يعتمد على المحاكاة، حيث ننظر إلى المهام المعقدة التي تُنفذ في عمليات عمل بأطول مجال زمني.، حيث تأخذ على سبيل المثال الوثائق وتقوم بتعديلات متكررة على تلك الوثائق.
في تلك البيئات، تعقيد المهمة بالنسبة للنماذج أو حتى الوكالات يكمن في تتبع ليس فقط ما ينوي المستخدم فعله خلال نشاط العمل على مدى طويل، بل أيضًا فهم الحالة الحالية، والمعلومات ذات الصلة، والمعلومات غير ذات الصلة، وكيف تغير الأمور. وهذه أمور يمكن للوكالات أن تكون جيدة فيها إلى حد ما، لكن هناك أنواع معينة من المهام التي تكون أسهل من الأخرى.
أتالا: بالطبع.
نيفيل: وهكذا، ما ننظر إليه هو أنواع المهام التي تصبح فيها التعقيدات كبيرة جدًا بالنسبة للعناصر الحالية، وكيف يمكن حل ذلك. ما هو أفضل طريقة لاستخدام الأداة مع العناصر؟ هل من الأفضل إدخال شخص بشري في العملية؟ كيف يمكننا معرفة ما إذا حدث خطأ؟ لذا، حتى العناصر نفسها، يجب أن تراقب نفسها وتقيّم ما إذا كانت أجابت على أي سؤال بشكل صحيح أم لا، أو يجب أن تعود إلى الحالة السابقة. أعتقد أن كل هذه أسئلة مفتوحة حاليًا.
لكن لدينا… لدينا بعض الأعمال التي تُظهر أن مرة أخرى نواجه فشلات مفاجئة كلما طالت عمليات العمل هذه، لأن الأخطاء، إذا لم يتم اكتشافها، يمكن أن تتكاثر…
أتالا: نعم.
نيفيل: … وبدأوا في إرباك الذكاء الاصطناعي أكثر، لأنهم يجب أن ينفذوا المهمة من خلال تفاعلات متكررة.
ATALLA: نعم، عبارة “الفشل المفاجئ” مثيرة للاهتمام بالنسبة لي. فهي تعني توقعًا بأن الشيء يجب أن يؤدي بشكل أفضل، وأنا متفاجئ من أنه فشل بهذه الطريقة المحددة. هل تشعر أنك ترى المزيد من هذه الأخطاء المفاجئة، أم أن الكثير من الأخطاء، كما هو متوقع، يمكنك فهمها بأنه سيفشل بهذه الطريقة أو تلك؟
نيفيل: نعم، أعتقد أن هناك فشلات متوقعة بالتأكيد، لأن… بالطبع، عدد الفشلات المتوقعة أقل، طبعًا، بينما نحاول جعل الأنظمة أفضل وأفضل.
أتالا: صحيح. إذا كان بإمكاننا توقعهم، فإننا يمكننا إصلاحهم.
نيفيل: صحيح. لكن أمورًا مثل الهلوسة هي نوع من الإخفاقات التي تم تحديدها منذ زمن طويل في المجتمع، وله معايير وطرق محددة لتقليل هذه الأمور.
أعتقد أن فريقي يبحث عن أمور تظهر كفشلات مفاجئة تقريبًا، لأنها ليست فشلاً تقليديًا، وغالبًا ما يكون من الصعب عزلها وإظهار أنها تحدث، لأنها دقيقة للغاية ولا تظهر كإجابة خاطئة لمسألة رياضية أو حالة خيالية في القانون، أعرف، رأي قانوني، ولكن هذه نوع من فقدان الدلالات الدقيقة في الوثائق. وأعتقد أنه إذا نظرت إلى ما قمنا بدراسته مع الفريق، فلدينا فرضية تقول إننا نعتقد، ككائنات بشرية، أن الأشياء التي يصعب علينا القيام بها ستكون أيضًا أشياء صعبة على النموذج. وفي الواقع، هذا لا يحدث دائمًا، لأننا يجب أن نفكر في ما هو صعب على المحولات الحسابية حقًا حسابه، وما هو صعب على أنظمة استرجاعها استرجاعه…
أتالا: صحيح.
نيفيل: … من المحتوى الأساسي.
وأعتقد أن مصدر "الدهشة" يكمن في الأشياء التي قد نعتبرها بشرًا سهلة للغاية القيام بها. أو نعتقد أنه إذا كان هناك مهمة تم إنجازها بشكل صحيح في الماضي، فإننا نعتقد الآن بثقة أن نفس المهمة يجب أن تُنجز بشكل صحيح مرة أخرى. لكن في الواقع، هذا ليس بالضرورة الحال مع نماذج اللغة الطبيعية. وهكذا، يظهر الشعور المفاجئ، أعتقد، بناءً على توقعاتنا الخاصة المتعلقة بالذكاء البشري حول ما هو صعب وما هو سهل.
أتالا: نعم. وبين هذا الارتباك الذي قد يحدث لدى المستخدمين بسبب ما يتوقعهون من هذه الأنظمة، والذي قد يعتمد على تفكيرهم في الذكاء البشري، وكل الضجيج والتسويق الموجود هناك، ما الذي تريد أن يحصل المستخدمون الحقيقيون من هذا؟ أو كيف يمكنك حثهم على التفكير في القدرات والتوقعات التي قد يكون لديهم تجاه أنظمة الذكاء الاصطناعي، نظرًا للعمل الذي تقوم به هنا؟ كيف يمكنهم التخلص من هذا الضجيج وبناء توقعات أفضل؟
نيفيل: أوه، هذا سؤال جيد. أعتقد أن الأنظمة الذكية الحالية تمتلك الكثير من القدرات التي ستكون مفيدة للغاية للأشخاص في بيئات العمل الآن. أعتقد أن النتيجة التي توصلنا إليها هي أنه لا ينبغي توقع أن تكون هذه الأنظمة ناجحة بنسبة 100% في كل الأحوال. يجب عليك التحقق من الإجابات التي تحصل عليها. وإذا حصلت على إجابة تعتبر خاطئة، فلا يجب أن تفترض بالضرورة أن النموذج لا يستطيع فعل ذلك. بل يجب التفكير في طرح السؤال مرة أخرى أو طرحه بطريقة مختلفة، وقد تحصل على إجابة أفضل في المرة القادمة.
هذا صعب إدخاله في طريقة عملنا الحالية، لأنني أعتقد أنهم ليسوا مستعدين للقيام بكل الأمور بنسبة 100% تحت مسؤوليتهم. ولكن إذا تمكنت من إيجاد طريقة استخدامهم في سير العمل معك، مع الإشراف والتحقق، أعتقد أنهم يمكن أن يكونوا مفيدين جدًا في إنجاز الأمور وتحسين الإنتاجية وسرعة إنجاز المهام.
إذًا… وربما الشيء الآخر الذي يجب قوله هو، أنت تعلم، تحتمل منا لأننا نطور هذه الأنظمة في الوقت الحقيقي أثناء إصدارها. وبالتالي، فإن استخدامك يساعدنا حقًا في تجاوز حدود النماذج، لأنه يوفر لنا أمثلة على الأشياء التي يمكن وألا يمكن القيام بها.
ربما شيء آخر أود قوله هو أن ما قد لا يفهمه المستخدمون هو أنه في الماضي، مع الأنظمة القائمة على البحث أو أنظمة التوصيات، كانت نوعية الردود التي كنا قادرين على تقديمها من قبل المستخدمين مجرد إشارة مثل “الإعجاب” أو “الرفض”. لكن الآن نحن في بيئة يمكننا فيها تقديم ردود ذات دقة عالية جدًا، وهو أمر مفيد للغاية لتحسين النماذج في المستقبل.
لذا، إذا كنت تعمل في بيئة دردشة مع نموذج، فتفهم أنه إذا حدث شيء سيء، فمن المفيد قول كيف حدث السبب السيء، لتوصيل ما حدث بالضبط، وما كنت تتوقعه وما حصل بدلاً منه في التفاعل النصي أو الخطابي. لأن ذلك سيُستخدم عند تحديث النماذج. ويمكنك أن تعتبر ذلك كمستخدمين؛ دورك يمكن أن يكون تدريب النماذج على القيام بالأشياء التي كنت ترغب في أن تقوم بها، لكنها لا تستطيع القيام بها حاليًا.
أتالا: رائع. هناك دعوة للتحرك مثيرة للاهتمام.
وأنا فقط فضولي. لقد تحدثت عن نموذج المحول الذي نعيشه الآن للأنظمة اللغوية الكبيرة من هذا النوع. أين تعتقد أن علم الأنظمة الذكية الكبيرة ستتجه إليه؟ بشكل عام، ربما هذه مسألة صعبة جدًا، ولكن على الأقل في اتجاه اهتماماتك وأبحاثك، أين تعتقد أن علم هذه الأنظمة ستتجه إليه؟
نيفيل: هذا سؤال كبير جدًا. [ضحك] أعتقد أن مجتمع البحث يحاول في نفس الوقت معرفة ما إذا كانت بنية التحويل هي النموذج الأساسي المناسب لاستخدامه، لأن هناك بعض القيود المعروفة لطريقة عمل الحسابات في التحويلات. يمكن حل الكثير من هذه القيود من خلال الطريقة التي تُستخدمها النماذج—الأدوات الخاصة بالأجهزة الذكية التي نستخدمها حاليًا—والمنطق الذي يحدث في الجانب الخلفي.
لذا أعتقد أن السؤال المفتوح هو: كم يمكننا التعامل مع قيود بنية المحول، مع هذا الأساس الضامن المحيط به، وما الذي يجب معالجته من خلال أساس مختلف جذريًا...
أتالا: بالطبع.
نيفيل: … هل هناك هندسة أساسية تخفي تحتها الأمور؟ أعتقد أننا سنرى تطورًا سريعًا في الهندسات والنماذج البديلة، بالإضافة إلى واجهات معقدة حول النماذج الحالية التي لدينا.
أعتقد أننا سنرى في الجيل القادم من الأعمال أنه يجب علينا التركيز على التفاعلات طويلة المدى مع النماذج، وكذلك جعل النماذج تفهم العالم الذي تعمل فيه بطريقة أكثر وضوحًا مما تفعله الآن. لكنني أعتقد أنني متفائل جدًا بالأبحاث التي تجري حاليًا. أعتقد أننا سننجح في ذلك.
ربما عندما بدأت، كانت أول فرصة عمل لي في مختبرات AT&T في عام 2000. وأتذكر جيدًا أنني كنت أجلس أثناء الغداء في فترة التدريب وألعب لعبة go، وكنت أتحدث عن كيف يمكن للنماذج الذكية أن تلعب هذه اللعبة، وكيف أن الأمر أصعب من الشطرنج، وما الذي يمكننا فعله.
وأنا كنت أتعلم كيفية لعب الشطرنج في ذلك الوقت. وكنت أتعلم على لوحة بأبعاد 9×9. لا أعرف إذا كنت قد تعلمت يومًا كيفية لعب الشطرنج، …
أتالا: ليس لدي.
نيفيل: … لكنك لا تتعلم كيفية اللعب على اللوحة الكبيرة …
أتالا: واو.
نيفيل: ... لأنها صعبة جدًا حتى بالنسبة للبشر، صحيح؟ لذا تبدأ على لوحة بأبعاد 9 × 9.
وأنا، بشكل ما، كنت أراقب كيف يتعلمتُ كيف ألعب، وكيف أفكر في كيف ستتعلم الخوارزميات كيف تلعب. وخلال ذلك، كنا نحاول تخمين المدة التي سيستغرقها الذكاء الاصطناعي للقيام بذلك. ومن المثير للاهتمام النظر إلى الماضي، لأنه في مختبرات AT&T، كان هناك الكثير من العلماء البارزين في مجال التعلم الآلي والبحوث المتعلقة بالذكاء الاصطناعي. كان الناس يقولون: “إنه سيستغرق 50 عامًا للقيام بذلك”. وهناك من يقول 100 عام. لكن، بالطبع، الآن هذا مشكلة تم حلها بالفعل (تفتح في تبويب جديد).
أتالا: نعم.
نيفيل: وبالتالي، هناك أمور قد أفكر فيها كباحث، لأنه من الصعب علينا تجاوز هذه الحواجز التي نراها الآن في السلوك. هناك ميل للتفكير في أن “ستستغرق الأمر 10 سنوات” أو “ستستغرق 25 سنة”.
لكن أعتقد أنه بالنظر إلى وتيرة البحث وعدد الأشخاص الذين يبحثون في هذا المجال، بالإضافة إلى حجم تشغيل هذه النماذج، فإن ذلك سيحدث بسرعة أكبر مما كنت أتوقع، كما لو كنت تلك الطالبة الجديدة في مجال الذكاء الاصطناعي في عام 2000. إذًا…
أتالا: واو. حسنًا، انطلاقًا من ذلك، إذا نظرنا إلى عام 2000، فلنتخيل الآن قفزة 20 عامًا إلى المستقبل، أو مجرد 10 أعوام، لأن الأمور تتقدم بسرعة كبيرة.
نيفيل: [ضحك] نعم.
أتالا: ما هو العلامة التي تريد أن تتركها على البحث في هذا الفضاء؟
نيفيل: أعتقد أن الأشياء التي كانت دائمًا الخيط المشترك في مسيرتي البحثية هي التفكير في الأنظمة المعقدة وكيفية جعل الذكاء الاصطناعي وتعلم الآلات تعمل في هذه الأنظمة المعقدة. وهذا هو ما نركز عليه الآن من خلال التعاون، ونفكر في التفاعل بين البشر والذكاء الاصطناعي المتعدد. أعتقد… إذا تخيلنا النتائج الخاصة بالخيال العلمي، فأعتقد أننا سننجح إذا بدأنا في بيئة العمل نرى مؤسسات تتعاون بين البشر والذكاء الاصطناعي لتحقيق أهداف معينة وابتكار جديد، وإذا استطعنا أن نجعل ذلك يعمل بشكل صحيح، فسأشعر أن بحثي نجح.
أتالا: رائع. حسنًا، بينما نختتم هنا، فكرت أنه قد يكون ممتعًا إجراء جولة سريعة، أي أسئلة سريعة وأجوبة بأمان منخفض، أي ما يخطر ببالك أولاً. هل يبدو ذلك جيدًا؟
نيفيل: بالطبع.
أتالا: رائع. ما هي النصيحة واحدة التي تبقت معك أو غيرت من نظرتك؟
نيفيل: أه، حسنًا. لكنك قلت إن الجواب يجب أن يكون مختصرًا. [ضحك]
عندما بدأت لأول مرة في علوم الكمبيوتر، أنا، أه، في الحقيقة، دوينا بريتشوب (تظهر في علامة تبويب جديدة) كانت المشرفة في درس علوم الكمبيوتر الأولي لي، وقالت لي عندما كنت أشعر بالارتباك وكأنني لا أعرف شيئًا… الجميع يعرف كل شيء بينما أنا لا أعرف شيئًا. قالت: “أعرف، لا تخف من طرح الأسئلة، لأن بعض الأشخاص قد يبدون وكأنهم يعرفون ما يحدث، لكن في الحقيقة لا يعرفون ما يحدث. وستقدّر حقًا أنك شجاعة بما يكفي لتطرح سؤالًا، لأنهم على الأرجح…” أفكر في نفس الشيء. وستساعدك أنتهم أيضًا إذا كنت، إذا كنت سيكون اسأل السؤال.
وهكذا، أخذت ذلك في الاعتبار خلال مسيرتي المهنية. ومن الصعب جدًا، أنت تفهم، أن تشعر بالخوف وتشعر وكأنك ستبدو غبيًا عند طرح الأسئلة. لكن بلا شك، طوال الطريق، كلما شعرت بهذا الخوف و… كان لدي الشجاعة للأسئلة، وجدت أن الناس كانوا ممتنين حقًا. وكان الناس يقولون بعد ذلك: “أوه، كنت أفكر نفس الشيء”. أنا سعيدة جدًا لأنك طرحت هذا السؤال. لذا، كن شجاعًا وطرح السؤال.
أتالا: رائع. ما هو الدرس الذي تعلمته بالطريقة الصعبة؟
نيفيل: انظر إلى البيانات. [ضحك] انظر إلى البيانات.
لذلك في التعلم الآلي، لدينا ميل ما – وهذا ينطبق على المعايير. لدينا مجموعة اختبار. نعمل بنموذجنا، ونتعلمه، ثم نطبقه على هذه المجموعة الاختبارية. بشكل عام، نحصل على رقم يكون مؤشرًا نحاول تحقيقه. وإذا كان الرقم أعلى، نعتقد أننا ننجح. أما إذا لم يتغير الرقم، فنفكر: "أوه، إذًا المشكلة صعبة جدًا".
لكن لقد تعلمت بطريقة صعبة مرات عديدة أنه عندما لا تسير الأمور بشكل صحيح، إذا أخذت الوقت للنظر في البيانات، فقد تكتشف أن هناك أخطاء في البيانات. البيانات ليست كما توقعت. البيانات مختلفة عن التوزيع الذي تم تدريب النموذج عليه. لذلك، في كل مرة… أعتقد أن هذا يجعلني شخصًا متخصصًا في البيانات. [ضحك] لكن غالبًا عندما لا تسير الأمور كما نتوقع، نذهب لنرى البيانات لمحاولة فهمها.
أتالا: نعم. منطقي. إنه أمر صعب.
نيفيل: [ضحك] صعب التذكر.
أتالا: نعم.
نيفيل: وهذا... ربما هذا أمر مهم، حتى بعد أن تعلمت تلك الدرس...
أتالا: بالطبع.
نيفيل: … لقد اضطررت إلى إعادة تعلم تلك الدرس على الأقل بست مرات خلال مسيرتي المهنية.
أتالا: نعم. حسنًا، من ناحية أخرى، ما هو إنجاز تفتخر به أكثر؟
نيفيل: أعتقد أن السبب هو أنني تمكنت من الحصول على منصب مستقلاً ورفع مستوى طفل صغير في نفس الوقت.
أتالا: واو، نعم.
نيفيل: كان لدي ابني قبل أن نبدأ — والزوج أيضًا أستاذ جامعي — لذا قبل أن نبدأ مناصب الأساتذة. وأعتقد أن حقي في الحصول على منصب دائم، وكان ابني بصحة جيدة وسعيدًا، وتمكنت من البقاء متزوجة [ضحك] …
أتالا: نعم، بالفعل.
نيفيل: ... ربما هو أكبر إنجاز، أيه، نعم ...
أتالا: إنجاز كبير، نعم. والسؤال الأخير هنا: ما هي الطريقة الواحدة التي أثر بها الفن أو الطبيعة على عملك؟
نيفيل: همم، لست متأكدًا مما إذا كان هذا يُعتبر حقًا طبيعة، لكن شيئًا ألاحظه دائمًا كشخص ذو ذكاء اصطناعي هو كيف يبدو الأطفال والناس والحيوانات والحشرات يتعلمون عن العالم والبيئة ويغيرون سلوكهم. لذلك أعترف تمامًا بأنني كأم لطفل صغير كنت متخصصًا جدًا في ذلك. كنت أستخدم أفكارنا التي نحصل عليها من التعلم الآلي، وأحاول معرفة إذا كان بإمكاني مساعدة ابني على التعلم بشكل أفضل.
على سبيل المثال، إذا كان يتعلم أن يحاول التقليب، مثل، عندما كان طفلاً، سأقول: “حسنًا، دعني أقدم لك مثالًا تدريبيًا إيجابيًا. [ضحك] مثل، هاك، خذ ساقيك وتفعل هذا”، و…
أتالا: نعم، نعم.
نيفيل: … ثم نرى التأثير على الطريقة التي تعلم بها، كما نراقبه وهو يتعلم، وأيضًا نفكر في كيفية دمج ذلك في الخوارزميات والنماذج التي طورناها. ربما هذا هو التفاعل الأكبر الذي أعود إليه باستمرار خلال مسيرتي المهنية.
أتالا: هذا جميل. نعم.
نيفيل: شكرًا.
أتالا: حسنًا، جين، شكرًا لك على مشاركتك قصتك ورؤاك. كان من دواعي سروري أن أكون هنا معك.
وبالنسبة لجمهورنا، شكرًا لكم على مشاهدة البث. إذا كنت ترغب في معرفة المزيد عن أعمال زملائي في مايكروسوفت، يمكنك زيارة صفحة بحث مايكروسوفت على aka.ms/research أو يمكنك الاطلاع على حلقات أخرى من هذا البودكاست عبر [MUSIC]. شكرًا.
[نهاية الموسيقى]
تعرف أكثر:
- التفاعل والتعلم الذكي
الصفحة الرئيسية - نظريات التعلم العميق تدمر مستنداتك عند تفويضها
النشر | أبريل 2026 - ملاحظات إضافية حول أبحاثنا الأخيرة في تفويض الذكاء الاصطناعي وموثوقية الأفق الطويلة
- بلاگ بحث أبحاث مايكروسوفت | مايو 2026
- نظريات اللغات الكاملة تضيع في المحادثات متعددة الأيام
نشر | مايو 2025
المنشور ما الذي يخطئ فيه الذكاء الاصطناعي وما الذي يعلمناه الفشل” ظهر أولاً في Microsoft Research.