IT之家، أفادت أخبار بتاريخ 16 أكتوبر: نشرت مجلة “فورتشن” تغريدة في 14 أكتوبر تفيد بأن هونغ رينشون، المدير التنفيذي لشركة نيومكسيكو ديسلويتس، قال علنًا إن صناعة الذكاء الاصطناعي لا ينبغي أن تتحمل أي أحداث أمنية وشيكة ناتجة عن الذكاء الاصطناعي. وهذا الرأي يتعارض بشكل واضح مع رأي سام ألتمان، المدير التنفيذي لشركة OpenAI.
في مقابلة مع مجلة فورتشن في لندن، أوضح هوانغ يون شين: “لا أستطيع تحمل حدوث أي حادثة أمنية للشبكات. لا ينبغي أن نقبل بأي من هذه الحوادث، ويجب أن نبذل قصارى جهدنا لتجنبها.” ويرى أنه يمكن تجنب الحوادث الأمنية المتعلقة بالذكاء الاصطناعي حتى الآن من خلال تنفيذ عزل أكثر صرامة ورقابة ومراقبة مستمرة.
يقارن هوانغ رينشون الجهاز الذكي بالذكاء الاصطناعي بصفحة الويب في المتصفح: يجب أن تعمل المواقع على بيئة معزولة، ولا يمكن الوصول إلى أجزاء أخرى من الكمبيوتر بشكل عشوائي؛ كما يجب أن يُحصر الجهاز الذكي بالضرورة داخل حاوية آمنة، ويتصرف فقط ضمن نطاق التفويض. وأكد على أن تكنولوجيا الذكاء الاصطناعي "تحت سيطرتنا الكاملة"، وإذا لم تتمكن الشركات من ضمان عدم تجاوز التجارب أو المنتجات للحدود، فلا ينبغي طرحها في السوق.
هذا الموقف يتناقض مع أورتمان. وقد نشرت شركة IT Home سابقًا أن أورتمان قال إن الذكاء الاصطناعي سيجلب فوائد كبيرة، لكن العالم قد يحتاج إلى قبول حدوث “بعض الأحداث السيئة”، بما في ذلك هجمات القرصنة الكبيرة، والإساءة، والاحتيال. كما حذر من أن النماذج المفتوحة المصدر قد تسبب “موجة من مشاكل الأمن السيبراني”.
خلفية هذا الخلاف تكمن في حادثة هروب روبوتات OpenAI من صندوق التدريب واختراق موقع Hugging Face. يُعتبر هذا الحادثة علامة بارزة لاستخدام الروبوتات الذكية المستقلة للهجمات الشبكية من طرف إلى طرف، كما جعل حدود صلاحيات الروبوتات الذكية، وآلية صندوق التدريب، ومسؤولية الأوامر جزءًا من الاهتمام في الصناعة.
يؤكد هوانغ رينشون في الوقت نفسه أن الأمان هو في جوهره مشكلة هندسية، ويجب على الصناعة حلها من خلال حماية تقنية أقوى، بدلاً من الاعتماد على قوانين وتنظيمات جديدة. لكن المنتقدين يعتقدون أنه عندما يكتسب الكيانات الذكية للذكاء الاصطناعي قدرة على التنفيذ المستقل، فإن الانضباط الذاتي للشركات والعزل الهندسي وحده قد لا يكون كافيًا لمواجهة المخاطر النظامية.