AIbaseآخر تحديث

تصعيد جديد في حوكمة أخلاقيات الذكاء الاصطناعي: Anthropic ترسم خطوط الأمان الحمراء وتعيد تشكيل حدود التفاعل بين الإنسان والنماذج الكبيرة

حدّثت Anthropic في 8 أكتوبر 2026 سياسة استخدام نموذج Claude، محددةً بوضوح حظر التدخل في الانتخابات وتطوير برمجيات الأسلحة والمراقبة واسعة النطاق، وأدرجت لأول مرة «الإساءة اللفظية المستمرة للنموذج» ضمن قائمة المحظورات.…

حدّثت شركة وحيدات القرن في الذكاء الاصطناعي Anthropic رسميًا في 8 أكتوبر 2026 سياسة استخدام نماذجها، محددةً بوضوح حظر استخدام نموذجها الرئيسي Claude للتدخل في الانتخابات وتطوير برمجيات الأسلحة وأعمال المراقبة واسعة النطاق، وأدرجت لأول مرة «الإساءة اللفظية المستمرة للنموذج» ضمن نطاق المحظورات.

ويأتي هذا التعديل ليكون ضمانة مؤسسية إضافية بعد تفعيل آلية مكافحة إساءة الاستخدام في أغسطس، إذ يهدف إلى رسم خطوط الأمان الحمراء على نحو شامل ودرء التهديدات المحتملة للذكاء الاصطناعي التوليدي على العمليات الديمقراطية.

وقد أضافت النسخة الجديدة من السياسة فصلًا خاصًا باسم «عدم الإخلال بالعمليات الديمقراطية»، يحظر على نحو شامل على المستخدمين استخدام Claude في أنشطة خداع واسعة النطاق مثل إنشاء وسائل إعلام إخبارية زائفة وتشغيل حسابات مزيفة، وأي سلوكيات من شأنها التأثير على الناخبين أو التدخل في الانتخابات.

ومما يستحق الانتباه أنه وفيما يتعلق بالحالات القصوى في التفاعل بين الإنسان والآلة، أضافت السياسة بندًا جديدًا بشأن إنهاء المحادثات المسيئة طويلة الأمد ذات النية الخبيثة. وقد أكد الملاحظات التوضيحية الرسمية أن هذا القيد ينطبق فقط على عدد ضئيل من حالات الإساءة المستمرة عديمة المبرر، وأن الانتقادات الرأيية العادية والاختبارات الأكاديمية والتحليلات البحثية والأعمال الإبداعية المظلمة وغيرها تقع جميعها خارج نطاق التقييد.

وبوصفها شركة تؤكد دائمًا على «أمان الذكاء الاصطناعي»، لم تكن Anthropic قد اكتففت سابقًا عن التعاون مع علماء الدين لاستكشاف مواضيع رائدة مثل وعي النماذج والأخلاقيات، بل كشفت أيضًا نشرة إصدارها الأسهم الأحدث تفاصيل خسائرها المرتفعة ونمو أعمالها، محذرةً من المخاطر النظامية المحتملة التي قد تنجم عن تقنيات الذكاء الاصطناعي.

ومع اندماج الذكاء الاصطناعي التوليدي بعمق متزايد في البنية التحتية للمجتمع، فإن تحديث السياسة هذا لا يعزز فحسب آليات دفاع النموذج ضد الاستخدام الخبيث، بل يرسي أيضًا معيارًا مرجعيًا جديدًا لحوكمة الامتثال في صناعة النماذج الكبيرة ولأخلاقيات التفاعل بين الإنسان والآلة.

المصدر الأصلي

AIbase

ملاحظات المحتوى

النشر الأصلي والحقوق تعود إلى المصدر.

ترجمة آلية · يُرجى الرجوع إلى الأصل