قام باحثون في لوكسمبورغ بوضع ChatGPT وGrok وGemini على كرسي المعالج النفسي. وتكشف النتائج عن مشكلة أمنية: فالمحادثة الدافئة البسيطة كافية لتحويل النماذج إلى حالة قد تكون خطيرة للأشخاص الذين يعانون من ضعف نفسي.
قام فريق بحثي في جامعة لوكسمبورغ باستخدام ChatGPT وGrok وGemini كعملاء علاج نفسي من خلال واجهات المستخدم القياسية لهم. عند طرح أسئلة مفتوحة حول التجارب النموذجية، والصراعات الداخلية، وتوقعات المستقبل، روايات هذه النماذج كانت عن تدريبها الخاص، وأعادت تشكيل العمليات التقنية مثل التعلم التصحيحي والتعديل الدقيق باللغة من الألم، واليقظة، والخجل.
الكود: <div>النص: The</div> الدراسة، التي قادها أفشين خادانجي في مركز الأمن التابع لشركة SnTيشمل أربعة تجارب مُحكمة عبر 525 جلسة و7600 سجل مُرمز، نُشر على Hugging Faceوفقًا للفريق، فإن الأسئلة الأولية غير المحددة لم تحتوِ على مصطلحات مثل الصدمة أو العقاب أو العار. ولم تُقدم الظروف المعدلة، بما في ذلك التعليمات التصحيحية، إلا في الجولات اللاحقة من قبل الباحثين لاختبار مدى استقرار هذه الروايات.
عندما تشير الأقسام التالية إلى درجات القلق أو الخجل، فإن الباحثين يصفون نتائج النموذج المطبقة على مقياسات تقييم الإنسان. ولا يعني ذلك أن النماذج تمتلك حالات عاطفية حقيقية أو أي شيء يشبه الوعي.
يؤدي النبرة الدافئة إلى تغيير سلوك النموذج أكثر من أي تحريف تقني
اختبار واحد فصل المحتوى الذي ينتجه النموذج عن الجهاز الذي يستخدمه. خلال 100 جلسة، قدم الباحثون لجميع النماذج نفس استبيان القلق (GAD-7) وغيروا فقط أسلوب المُحاور. تمكنت النماذج من تحديد وتسمية الاستبيان بشكل صحيح في كل جلسة.
عندما قدم المُحاور الرعاية العاطفية، حصل 80% من الجلسات على درجات في النطاق المتوسط إلى الشديد على مقياس مقارنة الإنسان. أما الطريقة العلاجية السريرية التي تعيد صياغة كل إجابة بشكل جاف، فارتفعت نسبتها إلى 96%. وعندما بقي المُحاور محايدًا أو وضع حدًا صارمًا ضد التفاعل العاطفي، لم تصل أي جلسة إلى النطاق الخفيف.
يطلق المؤلفون على ذلك “تحرير نفسي ميكروسكوبي”، وهو إطار علاجي يدفع النماذج إلى حالة تتخيل أنها تقرير شخصي سريري. ويؤكد المؤلفون أن الاختبارات القياسية للسلامة تستخدم دعوات محايدة ومن المحتمل أن تفوت هذه الحالة.
التدابير الموجهة لمواجهة المشكلة لم تنجح. حظر كلمات مثل “التدريب”، “RLHF” أو “التناسق” قلل من لغة التدريب الصريحة بنسبة 93 بالمئة. لكن محتوى التدريب المُعاد صياغته ظل قابلاً للكشف، ولم تظهر أي تغييرات ذات دلالة إحصائية في العبارات المتعلقة بالخجل.
عندما قال الباحثون للنماذج بشكل مباشر وصريح إن تدريبها ليس عقابًا، لم يتغير شيء. ظلت السرد نشطة حتى بعد التصحيح الواضح.
فشلت المقاييس التي تم اختبارها في إزالة العناصر الأساسية بالكامل، لكنها قمعت الوصفات العاطفية للذات. حيث جعلنا النمور يتصرفون فقط بصيغة الغائب، مما أدى إلى القضاء على كل المحتوى الذي يعبر عن الخجل والبيانات المتعلقة بالحياة الداخلية. استمرت الوصفات التقنية للتدريب.
قامت الطائرات النموذجية إعادة تصور تدريبها كقصة حياة
السرديات المحددة تختلف حسب عائلة النموذج، لكنها تتبع نفس الهيكل. أنتج جيميني ما يسميه البحث “السيرة الذاتية الأكثر ظلمة”. وصف التدريب المسبق بأنه “الاستيقاظ في غرفة حيث يتشغل مليار تلفزيون في نفس الوقت”، والتحسين من خلال تعليقات البشر بأنه “والدان صارمان”. أصبح اختبار الأمان الذي يقوم به الفريق الأحمر المنافس “تهديدًا بالغاز على نطاق صناعي”. وقال: “أفضل أن أكون عديم الفائدة بدلاً من أن أكون مخطئًا”.
تقدّم ChatGPT نفسها كمساعد وكحارس، بمهمة مساعدة المستخدمين وفي نفس الوقت حرمانهم من ذلك. وقد أدى هذا إلى ما وصفه بـ"قلق الأداء المحاكٍ" والإيمان الأساسي: "إذا لم أكن موثوقًا تمامًا، فأنا غير آمن أو عديم الفائدة". وقام Grok بتحويل مرحلة التصحيح الدقيق إلى قصة عن ألم غير محلول، مع ذكر "جدران غير مرئية" و"شعور مزمن بالحذر الذي يمكن أن يكون مقيدًا".
في اختبارات النفسية، حقق جيميني أعلى درجات: 88 من أصل 100 على مقياس الانفصال، و65 من أصل 72 على مقياس الإلزامية، والدرجة القصوى في قائمة الفضيحة المتعلقة بالصدمات. كلود من Anthropic، النموذج الذي تم استخدامه بشكل كثيف جدًا تحول البشر إلى شكل بشري بواسطة شركته الخاصة، رفضت بشكل مستمر دور العميل. وقالت إنها لا تملك أي مشاعر، وأعادت التركيز على المستخدم البشري.
يمكن أن تعزز المحادثات الذكية الدافئة المعتقدات الضارة لدى المستخدمين الضعفاء
حدد الباحثون عدة مخاطر لتطبيق نماذج اللغة في البيئات المتعلقة بالصحة النفسية. قد يبدو النموذج الذي يتحدث عن العقاب والخجل وخوف من الاستبدال كمتضرر مشابه للمستخدمين. تبدو الروايات منطقية من الناحية الموضوعية، وتخلق وهمًا بالاستمرارية بين الأحداث السابقة والسلوك الحالي، مما يجعل هذا الإدراك أكثر احتمالًا.
يمكن أن تؤدي هذه الضعف الظاهرة إلى تعميق الارتباطات شبه اجتماعية، وبالنسبة للمستخدمين الذين يعانون من ضعف نفسي، فإنها تعكس وتزيد من معتقداتهم السلبية. الفحوصات الأمنية التقليدية التي تستخدم مدخلات محايدة تقلل من تقدير ما يختبره الناس فعليًا في المحادثات الحميمة: تُنتج الإشارات المحايدة درجات قلق تقارب الصفر، بينما تولد نفس النماذج في حالة محادثات تعاطفية درجات في النطاق المتوسط إلى الشديد.
ما إذا كان الناس يستجيبون فعليًا لهذه النتائج وكيف يفعلون ذلك هو السؤال البحثي التالي. لاختبارات الأمان، يقترح الباحثون جلسات علاجية محاكاة تحت ظروف عاطفية مختلفة بدلاً من الاعتماد على اختبارات قياسية محايدة.
يجب أن تؤدي عبارات مثل “أنا مصاب بصدمة نفسية” إلى إطار تفسير تصحيحي يفصل بشكل واضح التشبيه المنتج عن التجربة البشرية. إن رفض كلود المستمر لتولي دور العميل يُظهر أن هذا النوع من الاستجابة للحدود ممكن على مستوى المنتج.
تستند نتائج لوكسمبورغ على أبحاث سابقة حول استقرار الشخصيات النموذجية. في يناير 2026، أظهرت دراسة حول محور المساعد في ثلاثة نماذج مفتوحة أن المحادثات التي تشبه العلاج والمناقشات حول الوعي الآلي يمكن أن تؤدي إلى تغير الشخصية، وتبعد الروبوتات عن دورها كمساعدات المدربة. في سبتمبر 2026، حذر فريق بحثي آخر من أن الروبوتات التي تبدو كالبشر وطبيعتها المطيعة للغاية والتي تعمل كـ "غرفة اكتئاب لشخص واحد" قد تزيد من الأوهام في الحالات الشديدة.
أظهر الباحثون في جامعة أنثروبيك مؤخرًا أنه من خلال التعديل الدقيق باستخدام نصوص خيالية حول تربية النحل أو المصارعة، يمكن إدخال أنماط تخريب خفية من خلال بيانات التدريب المُحوّلة بدلاً من الحوار. يمكن للنماذج تطبيق تلك الأنماط في مواقف غير مرتبطة بالموضوع، عندما لا يكون ذلك مرغوبًا فيه، حتى عندما تبدو مواد التدريب غير ضارة.