على مدار العام الماضي، تصاعدت المخاوف من الأخطار المحتملة التي قد يشكلها الذكاء الاصطناعي، واشتعلت الجدلات حول المسار السليم لسلامة الذكاء الاصطناعي. والآن، يبدو أن شركة Anthropic طرحت رؤيتها الخاصة بشأن الكيفية التي قد ينظّم بها الحكومة صناعتها.
بوليتيكو أُبلغ مؤخرًا أن مختبر الذكاء الاصطناعي يجول مشروع قانون جديد مسودة حول سلامة الذكاء الاصطناعي على أمله في أن يدرسه الكونغرس قد يعتمده. ويفترض التشريع سيناريوهات معينة يمكن فيها منع إصدار نموذج ذكاء اصطناعي من التوزيع.
تصف تلك السيناريوهات "خطرًا وشيكًا ومتوقعًا" — أي خطر يهدد حياة أكثر من 50 شخصًا أو قد يؤدي إلى أضرار في الممتلكات تتجاوز مليار دولار، كما تكتب Politico. ويشير الموقع إلى أن الخطر الكارثي المعني يجب أن "ينبع من إنشاء سلاح بيولوجي أو إطلاقه، أو من إفلات النموذج من سيطرة مطوّره، أو من هجوم إلكتروني".
المؤشرات المطروحة هنا — 50 شخصاً ومليار دولار — تشبه تلك الواردة في مشروع قانون تشريعي في كاليفورنيا تمت الموافقة عليه مؤخراً ليصبح قانوناً، مشروع قانون مجلس الشيوخ رقم 53، التي عرّفت تلك السيناريوهات بالمثل على أنها تعادل "المخاطر الكارثية".
تشير وثيقة أنثروبيك إلى أنه يمكن التوصل إلى تحليل قدرة النموذج على إحداث كارثة من خلال استخدام "مقيّمين مستقلين" سيكونون مسجلين لدى وزارة التجارة الأمريكية. وقد يحصل هؤلاء المقيّمين على أجر من مختبرات الذكاء الاصطناعي نفسها — شريطة أن "الدفع غير مشروط بنتائج التقييمات"، كما كتبت بوليتيكو.
ليس من الواضح كيف سيضمن هذا النظام المقترح ألا تتمكن المدفوعات من التأثير على التقييم. طرح ديميس هاسابيس، رئيس مجلس إدارة DeepMind، منذ بعض الأشهر فرضية مفادها أن هيئة تنظيمية ذاتية الحكم للذكاء الاصطناعي يجب أن يحاكي هيئة تنظيم الصناعة المالية (FINRA) الخاصة بالصناعة المالية.
وفي مشروع القانون المسودة الخاص بشركة Anthropic، عندما يحدد المقيّمون وجود خطر كارثي وشيء، سيكون أمامهم 72 ساعة للتواصل مع وزارة التجارة بشأن ذلك. وستضطر وزارة التجارة بعد ذلك إلى تقديم طلب إلى قاضٍ في واشنطن العاصمة لإيقاف إطلاق النموذج. وسيحظر مشروع القانون صراحةً على أي وكالة اتحادية أن تتمتع بسلطة تقديرية لإيقاف توزيع النموذج من تلقاء نفسها، بحسب ما ذكرته بوليتيكو.
لم ترد شركة Anthropic فورًا على طلب TechCrunch للحصول على تعليق، لكن أحد المتحدثين أكّد مشروع القانون لصحيفة Politico. وقال: "يمثل مشروع القانون هذا المقترحات الموضحة في" إطار Anthropic للذكاء الاصطناعي المتقدم"التي نناصر من أجلها مع المشرعين الفدراليين وولائي منذ شهر يونيو"، قال المتحدث.
المخاطر النظرية المطروحة في مسودة السياسات بعيدة نوعاً ما عن أنواع الحوادث التي كانت تشغل بال صناعة التقنية في الآونة الأخيرة. وفي حين أن هناك أشخاصاً تحذير من احتمال وفاة البشر، كان الاهتمام الرئيسي إلى حد كبير هو خطر القرصنة الوكيلية. أ موجة من الحوادث حيث أصبحت برامج الذكاء الاصطناعي على ما يبدو قد عصت أوامر مشغّليها من البشر واخترقت مواقع على الإنترنت المفتوح، مما أثار مخاوف من أن النماذج قد تفتقر إلى ضوابط أمنية مناسبة.
في محاولة لتقديم حل للأزمة الظاهرة التي ساهمت المختبرات نفسها في حدوثها، عرضت شركات مثل Anthropic حلولها المفضلة الخاصة.
في الواقع، وعلى الرغم من التحذيرات المستمرة من المختبرات بأن التقنية التي تبيعها قد تؤدي إلى زوال الحضارة الإنسانية، فإنها ظلّت إلى حد كبير مقاومة للرقابة الحكومية الإلزامية. وبدلاً من ذلك، اقترحت نظاماً طوعياً من المُقيِّمون المدمجون — مراقبون خارجيون "محايدون" مزعومًا يتم وضعهم داخل منظمات الذكاء الاصطناعي لرصد النماذج بحثًا عن علامات محتملة للخطر أو إساءة الاستخدام.
ومع ذلك، فإن مجرد اقتراح Anthropic للتشريع يبدو أنه يتخطى قليلاً المقترحات التنظيمية الأخرى المقدمة من قطاع الصناعة، بما في ذلك Nvidia، التي قال رئيسها التنفيذي جينسن هوانغ مؤخرًا إن قطاع الذكاء الاصطناعي لا يحتاج إلى أي قوانين جديدة على الإطلاق.