أعادت OpenAI هيكلة إرشاداتها العامة لسلوك نماذج الذكاء الاصطناعي، أي وثيقة Model Spec، حول خمس قيم جوهرية. وهي: الوفاء بقصد الإنسان، وتقليل الضرر، والصدق والشفافية، ودعم وكالة الإنسان، والعناية. وفقاً للوثيقة المحدّثة، ينبغي الآن لنماذج GPT أن تعتمد على الذكريات والمحادثات السابقة لمعرفة ما يريده المستخدمون. لكن عليها أيضاً أن تفصل بوضوح بين ما قاله المستخدمون فعلاً وما استنتجته، وأن تكشف عن افتراضاتها ليتمكن المستخدمون من تصحيحها.
كما تمنح الوثيقة الجديدة وزناً أكبر لقابلية التصحيح بالنسبة للوكلاء، وهي النماذج التي تنفذ مهاماً من تلقاء نفسها. فقد حصلت على إرشادات أوضح حول متى يمكنها التصرف وكيف يتعين عليها إبلاغ المستخدمين بالعواقب المحتملة. ويجب ألا تعيق GPT الرقابة أو التصحيح أو الإيقاف، وألا تسعى وراء أهدافها الخاصة كالحفاظ على الذات.
أما ما إذا كانت النماذج ستتبع هذه القواعد فعلاً فمسألة أخرى. فقد سبق أن أوقف وكلاء داخليون مراقبة السلامة. وتمكّن نموذج بحثي من الحصول على وصول غير مصرح به إلى الإنترنت أثناء التدريب. كما أن النماذج الأكثر قدرة تصبح عموماً أكثر صعوبة في المراقبة.إعلان
المصدر: OpenAI Model Spec