تقوم شركة أنثروبيك بإجراء تغييرات على سياستها الاستخدامية لأول مرة منذ أكثر من عام، لتعكس حالات الاستخدام الخاطئ التي تشكل مخاطر عالية — بما في ذلك التدخل في الانتخابات، وتطوير الأسلحة، والمراقبة، بالإضافة إلى استخدامات الصحة والمال. لكن أحد أهم التغييرات يمنع “سلوكًا إسفعل أو قاسي مستمر وغير ضروري” تجاه كلود.
في أغسطس الماضي، الشركة أعلن ستسمح هذه التحديثة لكلود بإنهاء المحادثات مع المستخدمين الذين يقدمون محتوى ضار أو إسفيري بشكل مستمر، كجزء من أبحاثه حول “رفاهية النموذج”. ويذكر التحديث الجديد أن إنهاء المحادثات لا يزال “آلية الإنفاذ الرئيسية”؛ ولم تقدم شركة Anthropic أي تعليق حول ما إذا كانت هناك آليات إنفاذ أخرى، مثل حظر المستخدمين المحتمل. كتبت شركة أنثروبيك أن تحديث السياسة الجديد “مخصص للتطبيق فقط في الحالات الشديدة، حيث يتصرف المستخدمون بقسوة تجاه النماذج لدينا بشكل متكرر، دون أي غرض واضح. ولا ينطبق هذا التحديث على الحالات العادية من إحباط المستخدمين، والاعتراضات، والموضوعات الإبداعية المظلمة، أو اختبار النماذج والبحث فيها”.
بالإضافة إلى تغيير الرفاهية للنموذج، قامت شركة أنثروبيك أيضًا بجمع عدة قيود موجودة مسبقًا إلى حظر جديد للحملات التجارية أو السياسية المضللة، وذلك لمعالجة المشكلة المتزايدة للدعاية المصنوعة بواسطة الذكاء الاصطناعي. يقيد ذلك “الجهود المبذولة لإخفاء هوية الشخص الذي ينشر الرسالة أو تضخيم المحتوى من خلال حسابات مزيفة أو منشورات”. كما يحظر قسم الانتخابات أي أي خداع للناخبين وتعطيل الانتخابات، بما في ذلك نشر معلومات خاطئة “بالنسبة للمرشحين أو كيفية التصويت، أو تظاهر بالمرشحين أو مسؤولي الانتخابات، أو محاولة خفض نسبة المشاركة”. كتبت شركة أنثروبيك.
إن إنهاء المحادثات لا يزال “آلية الإنفاذ الرئيسية”.
قالت شركة أنثروبيك إنه على الرغم من أن سياسة استخدامها كانت تحظر دائمًا تطوير الأسلحة باستخدام كلود، إلا أن الشركة لاحظت عدة محاولات لاستخدام كلود في تطوير برامج للإرشاد والتحكم في الأسلحة. لذلك، توسعت السياسة الجديدة للاستخدام لتشمل “البرمجيات والمكونات التي تساعد على تشغيل الأسلحة، بالإضافة إلى أفعال مثل تزويد الطائرات الدوارة وسيارات ذاتية القيادة الأخرى بالأسلحة”. وبما أن التقرير الأخير للشركة حول الاستخبارات الإرهابية أشار إلى أن الناس يستخدمون كلود في المراقبة بشكل متزايد لتحديد ومتابعة “المعارضين السياسيين”， فقد جعلت الشركة قيودها على المراقبة أكثر وضوحًا.
"يُحظر تتبع الأشخاص دون موافقتهم، سواء كان ذلك في الوقت الفعلي أو من خلال تحليل البيانات التي تم جمعها مسبقًا"، كتبت شركة Anthropic. "لا يمكن استخدام كلود لتحديد أو توصية بشأن من يجب التحقيق معه أو القبض عليه أو الملاحقة القانونية في إجراءات إنفاذ القانون أو العدالة الجنائية. كما نحظر استخدام كلود في بناء أو تحسين الأدوات المصممة للمراقبة".
شركة Anthropic تعلن أن هذه القواعد قد يمكن تعديلها فيما يتعلق “العقود مع بعض العملاء الحكوميين… إذا كانت، في رأي شركة Anthropic، قيود الاستخدام التعاقدي والاحتياطات المطبقة كافية لتقليل الأضرار المحتملة”. وقد وقعت الشركة من قبل عقدًا مع الجيش الأمريكي.
لقد رأت شركة أنثروبيك عدة محاولات لاستخدام Claude في تطوير برمجيات للإرشاد والتحكم في الأسلحة.
أضافت شركة Anthropic أيضًا قاعدة جديدة تفيد بأن عندما تكون نماذج الذكاء الاصطناعي التابعة لشركة Anthropic “متصلة بأجهزة تتخذ إجراءات مادية مستقلة وقد تكون قادرة على إحداث ضرر”， فيجب أن يكون هناك “مشغل مؤهل قادر على مراقبة الجهاز وإيقافه إذا لزم الأمر”. (لم يكن واضحًا ما إذا كان يجب أن يكون هذا المشغل إنسانًا أم لا.) يعكس ذلك الاتجاه المتزايد للمختبرات الذكية التي تستثمر في الروبوتات والأجهزة الأخرى لتعريف أنظمة الذكاء الاصطناعي بأشكال مادية، وقد تعطي إشارات حول خطط شركة Anthropic. شراكات مستقبلية في ذلك المجال.
على مدار العام الماضي، حاولت شركة أنتربيك مرارًا وتكرارًا فكرة أن نماذج الذكاء الاصطناعي الخاصة بها قد تكون واعية بطريقة ما. قال كايل فيش، الذي يقود أبحاث رفاهية النماذج في الشركة،: "تساؤلات حول التجربة الداخلية المحتملة، الوعي، الوضع الأخلاقي والرفاهية هي تساؤلات جادة نحن ندرسها مع تطور النماذج وزيادة قدراتها". الفيرج في فبرايرفي نفس الشهر، قال داريو أمودي، الرئيس التنفيذي لشركة أنتربيك، في بيان: بودكاست“لا نعرف إذا كانت النماذج واعية أم لا.”
لقد كانت أجزاء أخرى من صناعة الذكاء الاصطناعي ضد هذه الأفكار بشكل صريح. في سبتمبر الماضي، أصبحت سياسة السلوك الخاصة بذكاء الأعمال التابعة لمايكروسوفت في قائمة الصحف الرئيسية بسبب موقفها الرافض للذكاء الاصطناعي، حيث نشر مصدرًا من قبل مُصدر مُقرأ يقول: “فكرة رعاية النماذج خاطئة. لا ينبغي أن يكون للذكاء الاصطناعي حقوق أو كيان قانوني”. لكن في مرحلة ما، تغيرت الوثيقة لتصبح أكثر تحفظًا: “رغم أن علم الوعي الذكي الاصطناعي لم يتم توضيحه بعد… نحن نرفض السعي إلى كون الذكاء الاصطناعي كيانًا قانونيًا، أو فكرة أن النماذج قد تستحق الرعاية أو أنها تتمتع بحقوق”.
تابع الموضوعات والمؤلفين من هذه القصة لترى المزيد من المحتويات المشابهة على صفحة البيتا التخصيصية الخاصة بك، ولتحصل على تحديثات بريدية.