IT之家 رسالة بتاريخ 10/5: أصبح المساعد الشخصي الجديد من Meta، وهو Muse، منتشراً بسرعة كبيرة، إذ حمّل ملايين المستخدمين هذا الوكيل الذكي وربطوه بحساباتهم المصرفية أو تطبيقات المراسلة أو بياناتهم الصحية، وسلّموه مهامهم لينجزها نيابة عنهم. لكن في حين ينتشر Muse بسرعة بين المستهلكين العاديين، فإن البيانات القادمة من داخل التطبيق تتيح للخارج إلقاء نظرة على المنطق التشغيلي لهذا المنتج في تنظيم المعلومات وعرضها على المستخدمين.
ووفقاً لمجلة WIRED، استخرج عدد من الباحثين خلال الأيام الأخيرة الملفات الداخلية لـ Muse ونشروا تعليمات تشغيل هذا الوكيل، مما أتاح للناس معرفة طريقة بناء هذا النظام وخصائص سلوكه. وقد أكدت Meta دائماً أن هذه الملفات مفتوحة عن قصد للعموم بهدف تعزيز الشفافية؛ ومن خلال هذه الملفات، يمكن للناس أيضاً رؤية كيف يستجيب Muse لتوجيهات المستخدمين وأسئلتهم، مثل طريقة التعامل مع المواضيع شديدة السياسة أو الحساسة.
وقد نجح الباحث المستقل في أمن الذكاء الاصطناعي كاران جوشي (Karan Joshi) في استخراج كمّ كبير من تعليمات Muse وتوجيهات نظامها. وكانت طريقته ببساطة استخدام واجهة المحادثة العادية، وطلب من Muse نسخ وإخراج ملفاته البرمجية الخاصة.
تُظهر إحدى تعليمات تشغيل Muse أن النظام ينشئ صفحة ملف شخصي مخصّصة لكل جهة اتصال في حياة المستخدم. وتعمل هذه العملية مرة واحدة كل ساعة، وتنص التعليمات على أن النظام يجمع وينظّم المعلومات المتنوعة المتعلقة بأفراد الأسرة والشريك والأصدقاء والزملاء و"شركاء التعاون" والأشخاص الذين "يتابعهم" المستخدم.
الفكرة الأساسية لهذا التصميم هي أن Muse يستعين بـ"ذاكرته"، أي الملفات النصية المهيكلة، لجمع معلومات عن علاقاتك الاجتماعية والأشخاص المهمين حولك. وبعد ذلك يمكنه تقديم النصائح: مثلاً إخبارك بكيفية تحسين علاقة معينة، أو اقتراح مكان مناسب لتناول الإفطار مع صديق يحب القهوة. وبالطبع، ليست تسجيل الروبوتات الدردشة العادية للمعلومات الاجتماعية أمراً جديداً؛ فمنذ سنوات طويلة كان هناك مستخدمون يلجؤون إلى ChatGPT طلباً للنصائح في التعاملات الإنسانية. لكن بالنظر إلى خلفية Meta نفسها، وامتلاكها كمّاً هائلاً من بيانات الشبكات الاجتماعية، يظل هذا التصميم من Muse جديراً بالانتباه.
قال جوشي: "بالنظر إلى كل هذه التوجيهات وبيانات مهارات النظام وكل ما يُدخل إلى Muse، فإن فهمي هو أنهم يريدون معرفة علاقتك بالأشخاص الآخرين في العالم الواقعي. إنهم يحاولون معرفتك كما يفعل صديق. وبصراحة، هذا أمر مقلق بعض الشيء.".
يوضح التوثيق الداخلي لـ Muse أن ملفات الأشخاص الجديدة قد تكون مختصرة المحتوى في البداية، ثم تُستكمل تدريجياً مع مرور الوقت. ويمكن أن تتضمن صفحة الملف أقساماً مثل المعلومات الوقائعية والتجارب السابقة والعلاقة بين الطرفين والقواسم المشتركة والأمور المطلوب متابعتها ونصائح الحفاظ على العلاقة. وتنص تعليمات التشغيل المقدمة من Meta على أن Muse لا يجوز له استخدام سوى "الأدلة" التي يستطيع الوصول إليها؛ واختلاق المعلومات من الخيال أمر أقل قبولاً بكثير من ترك صفحة الملف فارغة.
تقول التعليمات: "أين يسكن الشخص الآخر، وما عمله، والمواضيع المتكررة (أمور الانتقال إلى مسكن جديد، أهداف الادخار المشتركة)." ويذكر التوثيق أيضاً أن النموذج يمكنه تسجيل "تواريخ مهمة"، مثل أعياد الميلاد أو الذكرى السنوية. ويمكن لقسم التجارب السابقة تسجيل أحداث خلفية، مثل "تلك الرحلة في مارس، تلك الخصومة التي تمت المصالحة بعدها، حدث مهم وقع الأسبوع الماضي".
وتطلب التعليمات أيضاً من النظام تسجيل تفاصيل على مستوى العلاقات الإنسانية: "درجة القرب بين الطرفين، والأساس الذي قامت عليه هذه العلاقة، ونمط التعامل بين الطرفين، وما يبدو أن هذه العلاقة تحتاجه حالياً." ويقدّم قسم الحفاظ على العلاقات حلولاً عملية لتحسين العلاقات الإنسانية، تشمل "الأسباب المناسبة لإجراء مكالمة هاتفية، والتواريخ التي تستحق التذكّر، والأموال التي قال الطرف الآخر إنها تحتاج إلى متابعة لاحقة، والطرق التي يمكن من خلالها تقديم دعم ذي معنى للطرف الآخر".
وأبدت كاريسا فيليز (Carissa Véliz)، الأستاذة المشاركة في معهد أخلاقيات الذكاء الاصطناعي بجامعة أكسفورد، رأيها قائلة: "المعلومات التي نقدمها لأنظمة الذكاء الاصطناعي عن أنفسنا تفوق بكثير المعلومات التي نحصل عليها منها. ولا يشمل ذلك ما نخبرهم به من تلقاء أنفسنا فحسب، بل يشمل أيضاً الاستدلالات المختلفة التي تقدمها الأنظمة — سواء كانت الاستدلالات صحيحة أم خاطئة، وكلا الحالتين يحمل ما يستحق القلق؛ وبالإضافة إلى ذلك يمكن للأنظمة دمج شذرات المعلومات الواردة من مصادر بيانات أخرى.".
صُممت بنية Muse بحيث تُخصَّص لكل مستخدم مستقل آلة افتراضية خاصة لتخزين بياناته وسياق محادثاته. ولا يمكن للوكلاء الآخرين الوصول إلى هذه الآلة الافتراضية؛ ويمكن للمستخدم في أي وقت محو سجلات الذاكرة أو إلغاء تفويض الخدمات الخارجية المختلفة. وتقول Meta إن Muse يطلب تأكيد المستخدم قبل تنفيذ عمليات مثل إرسال البريد الإلكتروني أو إتمام المدفوعات؛ كما يحتفظ النظام بسجلات تدقيق، ويمكن للمستخدم الاطلاع على جميع الأنشطة التي أنجزها هذا الوكيل وخططه اللاحقة.
وقال المتحدث باسم Meta دانيال روبرتس (Daniel Roberts) في تصريح لمجلة WIRED: "أي وكيل يريد أن يكون مفيداً وأن يساعدك فعلاً في تحقيق أهدافك، يحتاج إلى امتلاك معلومات سياقية عنك وعن الأشخاص الذين تتعامل معهم. وهذا الجزء من المعلومات الذي يجمعه Muse مصدره المحتوى العام والبيانات التي تختار أنت مشاركتها. وبفضل هذه الذاكرة، يمكنه أن يتذكر أن الشخص الذي يرسل لك الفاتورة هو نفسه السبّاك الذي سبق له إصلاح أنابيب حمامك، أو أن يتذكر نوع الزهور الذي قال زوجك إنه يفضله أكثر من غيره.".
لاحظ IT之家 أن كثيراً من مساعدي الذكاء الاصطناعي اليوم يأتي مزودين بوظيفة الذاكرة، من أجل جعل الردود وتنفيذ المهام أكثر ملاءمة للحالة الشخصية للمستخدم. وقالت ميراندا بوجين (Miranda Bogen)، مديرة مختبر حوكمة الذكاء الاصطناعي في مركز الديمقراطية والتكنولوجيا، إن Muse يولي، مقارنة بالأنظمة المنافسة، اهتماماً واضحاً أكبر بتسجيل العلاقات الإنسانية وجهات الاتصال الشخصية. وبشكل عام، توفر هذه الأدوات عادةً درجة معينة من الشفافية وإمكانية تحرير الذاكرة، ويمتلك Muse هذه القدرة أيضاً. لكن بوجين أشارت أيضاً إلى أن منتجات الوكلاء والمساعدين الذكيين من هذا النوع تشجع المستخدمين أكثر على تقديم المزيد من البيانات الشخصية إلى النظام، بدلاً من توجيههم إلى حذف البيانات المخزنة أصلاً.
قالت بوجين: "جميع منتجات المساعدين الذكيين هذه تدفع بنشاط نحو إقناع المستخدمين بربط حياتهم بأكملها: البريد الإلكتروني والتقويم والحسابات المالية، وربط كل شيء، مقابل خدمات المساعد"، مضيفة: "حجم المعلومات التي يسلمها المستخدمون للشركات يتجاوز بكثير ما كان الناس على استعداد لتقديمه في السابق. ومع استمرار اتساع نطاق المعلومات التي يمكن لهذه الأدوات الوصول إليها، ستتضخم المعلومات التي تمتلكها عن المستخدمين تضخماً حاداً."