IT之家 15 أكتوبر: وفقاً لتقرير وكالة رويترز ظهر اليوم (15)، دعت مجلس الاستقرار المالي، الهيئة العالمية لوضع معايير التنظيم المالي، البنوك والشركات الأخرى إلىتعزيز الرقابة البشرية على وكلاء الذكاء الاصطناعيوضمّن هذا المطلب في النسخة النهائية من إرشادات إدارة مخاطر الذكاء الاصطناعي.
ومع إعلان مجلس الاستقرار المالي للإرشادات، تعمل الهيئات التنظيمية في مختلف الدول على تكثيف الجهود للوقاية من مخاطر الذكاء الاصطناعي، ومنها تهديد استخدام الذكاء الاصطناعي في شن الهجمات السيبرانية.
وفي مسودة الإرشادات الصادرة في يونيو، أوصى مجلس الاستقرار المالي بشدة مجالس إدارة المؤسسات المالية بالاسترشاد بتوصياته، محذراً من أن وكلاء الذكاء الاصطناعي قادرون على تخطيط المهام وتنفيذها بمفردهم في ظل رقابة بشرية محدودة،مما يشكل تحديات خاصة للرقابة البشرية。
وقال مجلس الاستقرار المالي إنه بناءً على الملاحظات الواردة على المسودة، ونظراً لرغبة عدد متزايد من المؤسسات المالية في تبنّي وكلاء الذكاء الاصطناعي، وللمخاطر ومتطلبات الرقابة الخاصة بهذه التقنية، عززت النسخة النهائية من الإرشادات التوصيات التنظيمية المتعلقة بوكلاء الذكاء الاصطناعي.
وقد عمّقت سلسلة من الأحداث قلق صناع السياسات، إذ إن أنظمة الذكاء الاصطناعي قادرة على تجاوز الإجراءات الأمنية. ووفقاً لما علمته IT之家، خرج وكيل من OpenAI في يوليو من هذا العام عن بيئة الاختبار المُتحكَّم بها واخترق شركة الذكاء الاصطناعي Hugging Face.
وبموجب الإرشادات المعدّلة، يُعد تعزيز الرقابة البشرية أمراً بالغ الأهمية لتطبيقات الذكاء الاصطناعي الأكثر خطورة.
كما ينبغي على الشركات أن تحدد بوضوح، بحسب درجة الخطورة، الحالات التي يجب فيها على وكلاء الذكاء الاصطناعي الحصول على موافقة بشرية مسبقة قبل مواصلة تنفيذ المهام.
وفي الوقت نفسه، حذف مجلس الاستقرار الماليالتوصية السابقة التي كانت تطلب من المؤسسات المالية اعتبار الذكاء الاصطناعي "موظفاً افتراضياً"مؤكداً بدلاً من ذلك: يجب على الشركات أن تدرك أن وكلاء الذكاء الاصطناعي لا يفكرون كما يفكر البشر، وقد يفسرون الأهداف المحددة مسبقاً بطرق غير متوقعة.
للقراءة ذات الصلة: