بايت دانس Seed تفصل قسم التوافق الأمني كإدارة مستقلة، بقيادة يان لين، للوقاية المتخصصة من تجاوزات الوكلاء الأذكياء ومخاطر CBRN

بايت دانس Seed تفصل قسم التوافق الأمني كإدارة مستقلة، بقيادة يان لين، للوقاية المتخصصة من تجاوزات الوكلاء الأذكياء ومخاطر CBRN

قاعدة AIbase

أصدر فريق Seed في بايت دانس مؤخراً بريداً إلكترونياً داخلياً أعلن فيه تأسيس قسم جديد باسم Seed Model-Alignment&Preparedness، ينتقل إليه فريق Responsible AI السابق وجزء من أعضاء فريق Chat، ويتولى إدارته يان لين، ويرفع تقاريره مباشرة إلى رئيس Seed وو يونغ هوي. وفصل الأمن والتوافق كإدارة مستقلة من المستوى الأول يعني أن استثمار هذه الشركة في اتجاه أمن النماذج تمت ترقيته إلى مستوى جديد.

جوهر مصطلح التوافق بسيط جداً: أن يسير سلوك النموذج دائماً وفق النية البشرية والقيود الأمنية، دون انحراف ودون تهور من تلقاء نفسه. والتحديان الصعبان اللذان سيتناولهما القسم الجديد واضحان أيضاً — أولهما تعزيز القدرات الأمنية لنموذج الوكيل Agent Model أي نموذج الوكلاء الأذكياء، وثانيهما الوقاية من مخاطر القدرات المتقدمة مثل CBRN. ويشير CBRN إلى الكيميائي والبيولوجي والإشعاعي والنووي، وكلها مجالات قدرات قد تترتب على إطلاقها بطريقة غير لائقة من قبل النموذج عواقب وخيمة. بعبارة أخرى، عندما يبدأ وكيل بايت الذكي في تنفيذ مهام معقدة بنفسه، يجب أولاً أن يُروَّض داخل القفص قبل أن يُطلق للعمل.

هذا المقال من نشرة AIbase اليومية

مرحباً بكم في قسم 【النشرة اليومية للذكاء الاصطناعي】! هنا دليلك اليومي لاستكشاف عالم الذكاء الاصطناعي، حيث نقدم لكم كل يوم أبرز محتويات مجال الذكاء الاصطناعي، مع التركيز على المطورين، لمساعدتكم على إدراك اتجاهات التقنية والتعرف على تطبيقات منتجات الذكاء الاصطناعي المبتكرة.