IT之家 رسالة في 27 أكتوبر، وفقاً لما أوردته مجلة «بزنس إنسايدر» صباح اليوم (27)، فقد غيّر الرئيس التنفيذي لشركة مايكروسوف ساتيا ناديلا موقفه من مسألة «المواءمة» في الذكاء الاصطناعي. كان يرى في الماضي أنه كلما أصبحت أنظمة الذكاء الاصطناعي أقوى، أصبح توجيه سلوكهابما يتوافق مع قيم الإنسان وأهدافه، ولكن الآن، نفسهلم يعد يثق بأن الاثنين سيتطوران بتزامن بشكل طبيعي。
في حلقة جديدة من بودكاست 《20VC》، سأل المذيع هاري ستوبينغز ناديلا عمّا تغيّر في أفكاره خلال العام الماضي. أوضح ناديلا أنه كان يعتقد في السابق أنه مع التحسّن المستمر في قدرات الذكاء الاصطناعي، ستُحلّ تلقائيًا مشكلة "المواءمة" التي تضمن توافق سلوك الذكاء الاصطناعي مع القيم والأهداف البشرية.
كانت النتائج المترتبة على توسّع حجم النموذج مطابقة لتوقعات ناديلا، فارتفعت قدرات الذكاء الاصطناعي باستمرار، لكن مشكلة المواءمة ظلت دون حل. «كنت أظن في الماضي أن مشكلة المواءمة ستُحل من تلقاء نفسها. لم أعد أعتقد ذلك. أرى أنقد يكون التوافق مشكلة أكثر تعقيدًا ومختلفة في طبيعتها。”
حذّر ناديلا في منشور على X بتاريخ 10 أكتوبر من مخاطر الذكاء الاصطناعي، داعيًا إلى تعزيز الرقابة الأمنية الخارجية. وهو يرى أن الشركات ينبغي أن تضع نماذج الذكاء الاصطناعياعتبرها تهديداً داخلياً للأمن، وعند اتخاذ تدابير الحماية ينبغي افتراض أن النموذج تعرض للاختراق.
كتب ناديلا في منشوره: "نحتاج إلى إنشاء آليات وقائية لنماذج الذكاء الاصطناعي التي يصعب التنبؤ الكامل بسلوكها، من خلال تصميم أنظمة موثوقة وحاسمة، ورقابة بشرية، وإجراءات تشغيلية محكمة. وفي المجالات التي تكون فيها المعايير الحالية غير كافية، لا بد أيضاً من وضع معايير صناعية."
بحسب ما هو معروف لدى موقع IT之家، فإن ناديلا ليس المدير التنفيذي الوحيد في قطاع التكنولوجيا الذي يعتقد أن تقدّم قدرات الذكاء الاصطناعي لا يضمن تلقائيًا بقاء البشر مسيطرين عليه. فقد حذر كل من الرئيس التنفيذي لشركة OpenAI سام ألتمان والرئيس التنفيذي لشركة Anthropic داريو أمودي من التهديدات المحتملة للذكاء الاصطناعي. وفي شهر 7 من هذا العام، حذّرت رسالة موقّعة من أكثر من 1000 عامل في مجال الذكاء الاصطناعي أيضًا من أن وتيرة تطوّر قدرات الذكاء الاصطناعي قد تتجاوز قدرة البشر على فهمه أو السيطرة عليه.