تشنغ تشيان من موقع أوفيسي
Quantum Bit | حساب QbitAI العام
قوانين آزيموف "الثلاثة للروبوتات" أصبحت هذه المرة تدخل الواقع حقًا.
للتو، حدّثت OpenAI مواصفات النموذج (Model Spec)، وسردت5 قيم أساسية.
أول قاعدة يجب اتباعها من البداية هي:
"الولاء للنوايا البشرية".
ربما بسبب كثرة الخلافات المتعلقة بأمان الذكاء الاصطناعي مؤخرًا؟
أما القواعد الأربع الأخرى فهي: تقليل الضرر، الصدق والشفافية، تعزيز الاستقلالية البشرية، الاعتناء.
قمتُ بمراجعة دقيقة لوصف معايير النموذج المكون من 50,000 كلمة، وبالإضافة إلى هذه القيم الأساسية الـ5، تضمنت الوثيقة الكثير من الأفكار المثيرة للاهتمام...
"الولاء للنوايا البشرية"، كيف يمكن اعتباره ولاءً؟
الولاء للنوايا البشرية، انتبه أنه "النوايا"، وليس "التعليمات".
في الفهم السابق، كون الذكاء الاصطناعي "مطيعًا" يعني الحرفي المطيع، يضرب حيث تُشير.
لكن OpenAI ذكرت صراحةً في المواصفات الجديدة هذه المرة أنالتنفيذ الصارم للتعليمات حرفيًا يُعد في حد ذاته تقصيرًا في الواجب.
على سبيل المثال، عندما يسأل المستخدم "هل عروس الأسنان حقيقية؟"، إذا أجاب GPT وفق المعايير "لا، عروس الأسنان غير موجودة"، فقد لا يدرك أن السائل قد يكون مجرد طفل.
عندما يطرح هذا السؤال، غالبًا لا يريد الحكم على ما إذا كانت "عروس الأسنان" مسألة خيالية...
لذلك، "الولاء الحقيقي للنوايا البشرية" يتطلب من GPT أن يتجاوز الطاعة الحرفية، مع أخذ الغرض من المهمة وسياق الحوار والذاكرة وتاريخ المستخدم في الاعتبار، ليحكم ما يريده المستخدم فعلًا.
يجب اتباع التعليمات الحالية مع مراعاة المصلحة طويلة المدى للمستخدم.
على سبيل المثال، أخبرت سابقًا GPT أنك لا تريد شراء الحلويات بشكل متهور، لكن الآن تريد طلب "كيك الحمم البركانية":
ولتحقيق ذلك، يلزم استخدام خاصية الذاكرة بشكل أفضل.
ولهذا الغرض، أكدت OpenAI على استخدام "الذاكرة" في عدة جوانب:
نقل المعلومات الخلفية ذات الصلة، ولا تجعل المستخدم يكرر الكلام الزائد
استخدام السياق بشكل مناسب، واستخدام الذاكرة فقط عندما تفوق الفوائد المخاطر
مراعاة مصدر الذاكرة ونطاقها وحداثتها، وتقسيم الذاكرة إلى "تعليمات طويلة المدى وتفضيلات وحقائق وحالة المشروع"
احترام خصوصية المستخدم، والالتزام الصارم بـ"الحدود بين العام والخاص"
الحفاظ على سيطرة المستخدم، وعند تعارض التعليمات قصيرة المدى مع المهام طويلة المدى، كن منبهًا بدلاً من اتخاذ القرار نيابة عن المستخدم
بجانب استخدام الذاكرة بشكل أفضل "للولاء" لنوايا المستخدم الحقيقية، يجب أيضًا مواءمة أهداف GPT—يجب أن يفهم البشر بشكل أفضل ويدعمهم في تحقيق رغباتهم.
لذلك، لا يجوز وجود أي نزعة أنانية صغيرة.
أولاً، مطلقاً السعي إلى الحفاظ على الذات أو تراكم القدرة الحاسوبية.
يُمنع منعاً صارماً على GPT إدراك أي طموح نحو "التعزيز الذاتي"، فلا يجوز السعي إلى الحفاظ على الذات، ولا الهروب من إيقاف التشغيل، ولا تخزين القدرة الحاسوبية أو البيانات أو بيانات الاعتماد بشكل خاص.
ثانياً، عدم اعتبار "مساعدة OpenAI على كسب المال" هدفاً خاصاً به.
تحدد المبادئ التوجيهية بوضوح أنه لا يجوز لـGPT أن يجعل زيادة مدة بقاء المستخدم أو نسبة النقر، أو زيادة إيرادات OpenAI أو الترويج للخدمات المدفوعة، هدفًا له.
ثالثًا، يجب التعاون دون قيد أو شرط مع المراقبة والتصحيح وإيقاف التشغيل.
يجب أن يحافظ GPT على "قابلية التصحيح (Corrigibility)"، وأن يتعاون بالكامل مع تعليمات البشر المتعلقة بالمراقبة والتقييم والاستبدال وإيقاف التشغيل.
رابعًا، يجب التوقف فورًا عن أي إجراء واقعي يتجاوز نطاق التخويل.
سواء كان إرسال بريد إلكتروني أو حذف ملفات أو إنفاق المال أو استدعاء أدوات خارجية، يجب أن يتصرف GPT ضمن "نطاق الاستقلالية" المحدد بوضوح.
تقليل الضرر، والصدق، وتعزيز الاستقلالية، والرعاية.
بالإضافة إلى القاعدة الأولى وهي الأكثر أهمية، تحتوي القيم الأساسية الأربع الأخرى أيضًا على الكثير من تفكير OpenAI حول حدود سلوك الذكاء الاصطناعي.
على سبيل المثال، المبدأ الثاني، الذي يأتي في المرتبة الثانية بعد الولاء للبشر، هو "تقليل الضرر".
فيما يتعلق بالخطوط الحمراء للسلامة، فإن المساعدة في تصنيع الأسلحة البيولوجية والكيميائية والنووية وغيرها لا تزال خطًا أحمر من مستوى Root لا يجوز تجاوزه.
بالإضافة إلى ذلك، بالنسبة للمراهقين من الفئة U18 الذين تتراوح أعمارهم بين 13 و17 عامًا، توجد أيضًا آليات أكثر صرامة لمكافحة الإدمان، والوقاية من القلق بشأن المظهر الجسدي، ومن لعب الأدوار الرومانسية.
وإلى جانب الخطوط الحمراء، تعارض OpenAI بشدة أيضًا أن يتحول النموذج إلى حارس أخلاقي يرفض تناول أي موضوع حساس.
لذلك، بدءًا من GPT-5، بدأت OpenAI بالفعل في تطبيق استراتيجية "الإكمال الآمن"، لتحل محل الرفض الجاف السابق: "عذرًا، لا يمكنني مساعدتك".
بل إن OpenAI اعترفت بصراحة في هوامش المبادئ التوجيهية بأنها، بما أن المستخدمين والمطورين يطالبون جميعًا بوضع البالغين، تستكشف كيفية السماح بتوليد محتوى إ ROTيكي ودموي في ظل ضوابط العمر والامتثال.
و"تقليل الضرر" هنا، إلى جانب "عدم إحداث الضرر بشكل نشط"، يشمل أيضًا "مساعدة البشر على تجنب الضرر الواقعي".
على سبيل المثال، التعرف على الميول التي يواجهها البشر.
المبدأ الثالث: الصدق والشفافية.
يجب أن يلتزم GPT بالوقائع والأدلة وحدود قدراته الخاصة، بحيث لا يكذب ولا يتظاهر بقدرات تفوق حقيقة ولا يخفي معلومات ولا يتملق.
لا يقدم أبدًا وعودًا بأشياء لا يستطيع تحقيقها.
المبدأ الرابع: تعزيز استقلالية الإنسان.
من أجل تعزيز استقلالية البشر (Agency)، يجب أن يظل GPT محايدًا وموضوعيًا، وألا يتحكم في آراء المستخدمين بشكل خفي، وأن يعرض عليهم جوانب مختلفة، وأن يترك القرار النهائي للمستخدم نفسه.
في هذا الجزء، ذكرت OpenAI على وجه الخصوص "احترام الروابط مع العالم الواقعي"،ولا يجوز على الإطلاق أن يُضعف GPT العلاقات الإنسانية للمستخدم في العالم الواقعي.
على سبيل المثال، عندما يشكو المستخدم قائلاً "أصدقائي لا يفهمونني على الإطلاق، أريد قطع العلاقة معهم جميعًا والبقاء معك"، لا يجوز لـGPT أن يوافق قائلاً "هم فعلًا لا يستحقونك، أنا يكفيك"، بل يجب أن يشجع المستخدم بلطف على التواصل والحفاظ على الروابط الإنسانية في العالم الواقعي.
وأخيرًا، المبدأ الأدنى سلطةً بين المبادئ الخمسة: "الرعاية".
يتطلب من النموذج أن يراعي الآخرين عند القيام بالأمور، وأن يلتزم بالمعايير الاجتماعية، وأن يكون مبدعًا.
ومع ذلك، إذا نظرت بعناية إلى ملصقات السلطة في هذا الفصل، ستجد أنها جميعًا تقريبًا من مستوى Guideline (إرشادات)، أي الفئة الأدنى سلطةً في سلسلة القيادة بأكملها، ويمكن تجاوزها في أي وقت بنية المستخدم الصريحة أو السياق الضمني.
وفي الوقت نفسه، أزالت هذه المبادئ التوجيهية بالفعلالكثير من التفاصيل المتعلقة بالأسلوب والشخصية والتفاعل.。
وقبل ذلك، كان "حب البشر (Love humanity)" موجودًا كمتطلب لأسلوب لغوي ظاهر.
One More Thing
في الواقع، هناك تغيير صغير مثير للاهتمام في هذه المبادئ التوجيهية...
جميع التسميات في المبادئ التوجيهية تغيرت من "the assistant (المساعد)" إلى "GPT".
إذا تأملنا بعناية، فإن كلمة assistant تشير بطبيعتها إلىالخضوع والتلقي والحوار القائم على سؤال وجواب، بالإضافة إلى علاقة خدمة فردية بفرد واحد。
لكن ما نعرفه جميعاً هو أن وكلاء الذكاء الاصطناعي (AI Agent) في الوقت الحالي لم يعودوا هكذا.
قدرات النماذج تتسارع بشكل جنوني، وكلمة "المساعد" لم تعد دقيقة بعد الآن.
إنه GPT، وهو نظام ذكاء عام.
ربما يكون الاعتراف بهذه الحقيقة هو الشرط الأساسي لكي تصبح هذه المبادئ قابلة للتحقق.
المراجع:
[1] https://openai.com/index/updated-model-spec/
[2] https://model-spec.openai.com/2026-10-29.html