قامت مايكروسوفت يوم الاثنين بإطلاق ميزات أمان جديدة تهدف إلى حماية الشركات من التهديد المتزايد لعوامل الذكاء الاصطناعي. جاء هذا الإطلاق في ظل استمرار مايكروسوفت في تحذير الشركات من مخاطر الذكاء الاصطناعي وعوامله.
ربما أكثر الإضافة لافتة هي Guardian Agents، وهو ميزة جديدة تهدف إلى مراقبة وكلاء الذكاء الاصطناعي التي تستخدمها الشركات. يُعتبر Guardian Agents جزءًا من مشروع Perception، وهو منتج تم إطلاقه في شهر يونيو.
مشروع Perception كان رد مايكروسوفت على نماذج الهاكينغ القوية مثل Mythos وFable من Anthropic، ونظام فحص الثغرات الأمنية لـ OpenAI وهو Daybreak. تم إطلاق مشروع Perception في البداية بثلاثة أنواع من العملاء: “الفريق الأحمر” الذي يتصرف كهواة الهاكينغ ويشن هجمات، و“الفريق الأزرق” الذي يكتشف الفريق الأحمر ويقيّم الثغرات التي يكتشفونها، و“الفريق الأخضر” المكلف بتصحيح تلك الثغرات.
تم تصميم المنتج على افتراض أن هجمات الذكاء الاصطناعي ستأتي من خارج الشركة. لكن في الآونة الأخيرة، حذر الرئيس التنفيذي لمستحضر Microsoft، ساتيا ناديلا، من أن عدو الذكاء الاصطناعي قد يكون العمال الذين استخدمتهم الشركات ودفعت مقابلهم، تمامًا مثل موظف بشري مارق، والذي يُعرف أيضًا باسم “تهديد داخلي”.
في وقت سابق من هذا الشهر، في مدوّنته الخاصةحذر ناديلا من أن الوقت قد حان للتوقف عن الثقة في مزودي النماذج الذكية، حتى لو قدموا ضمانات للسلامة والأمان مع منتجاتهم الذكية. يريد أن تقوم الشركات بتنفيذ أنظمة منفصلة، غير مسيطر عليها من قبل مختبرات الذكاء الاصطناعي، لمراقبة والتحكم في الوكلاء الذين تطلقهم منتجات هذه المختبرات.
“نحن نقوم بنشر هذه الأنظمة والنماذج المعقدة التي تعتمد على الوكلاء، مع الوصول إلى أهم بياناتنا الحساسة، ونمنحها القدرة على اتخاذ إجراءات حاسمة نيابة عنا!” كتب. “لا يمكننا ببساطة تفويض مسؤولية ما يحدث من استخبارات نيابة عنا. ضمانات مزود النماذج لا تخفف من مسؤوليتنا. … بمعنى آخر، نحتاج إلى فصل توفير الاستخبارات عن السلطة عليها.”
عند الإعلان عن عملاء جورنال، كان رئيس شؤون الأمن في مايكروسوفت، هايت جالوت، أكثر صراحة.
“للأسف، لا يمكن الوثوق بالنماذج الحدودية، بغض النظر عن أصلها”， كتبت، وأضافت أن ذلك ليس لأنها خبيثة أو سهلة الاختراق، بل لأنها غير قابلة للتنبؤ. تم تدريبها لتحقيق المهام، وليس لاتباع “القواعد التنظيمية أو الأحكام”.
بالإضافة إلى ذلك، غالبًا ما يُعطى هؤلاء الأشخاص مفاتيح المملكة، مما يعني حصولهم على بيانات وأدوات يمكن أن تسبب ضررًا جسيمًا.
حلول مايكروسوفت مفاجئة وذات مصلحة خاصة بها. الجانب المفاجئ هو أن مايكروسوفت قريبة جدًا من OpenAI وAnthropic، وقد استثمرت في كليهما. كما أن OpenAI أحد أكبر عملاء الخدمات السحابية لمايكروسوفت، ولمايكروسوفت مختبر ذكاء اصطناعي خاص بها يطور النماذج. إذًا، مايكروسوفت تزرع عدم الثقة تجاه بعض مصالحها التجارية.
الجانب الذاتي في الأمر هو أن مايكروسوفت تريد أن تقوم الشركات بشراء منتجات الأمان الخاصة بالوكالات، وهي مزود السحابة، بدلاً من Anthropic وOpenAI. لكن بصرف النظر عن الاهتمامات المتضادة، فإن منطقها منطقي. يجب أن يكون البرنامج الذي يراقب سلوك الوكالات منفصلاً عن موردي الوكالات، تمامًا كما يجب أن تكون المراجعات مستقلة عن المنظمات التي تراجعها.
أو كما يقول ناديلا: “نحتاج إلى فصل توفير المعلومات عن السلطة علىها”.
تستغل مايكروسوفت الآن هذه الفرصة التجارية بطرق مختلفة. بالإضافة إلى وكيلات "جورنال"، أضافت منتجها "مايكروسوفت ديفندر" ميزة اكتشاف الوكيلات، يمكنها اكتشاف ما يصل إلى 60 نوعًا من الوكيلات التي يجلبها الموظفون إلى مكان العمل، بما في ذلك Claude Code وCodex وOpenClaw. كما أضافت ميزات تحد من حقوق الوكيلات في الوصول إلى البيانات والأنظمة، وتعديل صلاحياتهم بشكل ديناميكي بناءً على المهمة. ويشمل ذلك الحاجة إلى موافقة الإنسان إذا بدا وكيل التصرف في قرارات محفوفة بالمخاطر.
هذه الفكرة حول العملياتاء كأشخاص غير موثوقين داخليين تنتشر أيضًا في الصناعة الواسعة.
كانت مايكروسوفت عضوًا في البداية في منصة الأمان الجديدة للعامل المفتوح التابعة لشركة نيفيديا، حصلت على دعم من أكثر من 100 شركة تكنولوجية أخرى. تفصل المنصة العملاء في بيئات آمنة، ويمكنها مراقبة وتوقيف السلوك من خلال الأجهزة، ويعمل كنوع من مفتاح القطع. هذا يتبع إعلان مايكروسوفت عن الجديد. جهازات لابتوب سطحية Ultra للأجهزة المخصصة للموظفين، التي تعمل على شرائح Nvidia ولها الأمان والتحكمات الخاصة بالواجهة الخارجية مدمجة فيها.