IT之家 رسالة 8 أكتوبر: بحسب ما أوردته «Business Insider»، حذّر الباحث جاكوب كوكس، الذي عمل سابقًا في Anthropic وOpenAI، من أن الذكاء الاصطناعي سيتمكن قريبًا من إجراء الأبحاث بشكل مستقل، وقد يعجز البشر تمامًا عن التحكم في التطورات اللاحقة.
كان كوكوف، البالغ من العمر 27 عاماً، يعمل في Anthropic في بحوث قدرات النماذج، وأعلن استقالته علناً الشهر الماضي. وفي 5 من الشهر الجاري بالتوقيت المحلي، موجّه حذراً لأعضاء مجلس مدينة نيويورك من أن الذكاء الاصطناعي قد يهدد بقاء البشر.
وأدلى كوكوف بشهادته في جلسة استماع عقدها مجلس مدينة نيويورك حول مخاطر الذكاء الاصطناعي، قائلاً إن الهدف الأول لمختبرات الذكاء الاصطناعي الرائدة في طليعة المجالهو أتمتة بحوث الذكاء الاصطناعي. وقال: "في عملي السابق، كنت بمعنى ما أبحث فيكيفية جعل الذكاء الاصطناعي يحلّ محلّي. عندما كنت في OpenAI، وضعنا هدفاً مرحلياً حول عامي 2027 و2028 لأتمتة الباحث في الذكاء الاصطناعي، وكان تقدّم البحث والتطوير مطابقاً للتوقعات بل متجاوزاً لها. لم يتبقَّ سوى أشهر قليلة على ذلك الوقت، لا عقود، ولا حتى خمس سنوات."
وبمجرد أن يتمكن الذكاء الاصطناعي من إجراء البحوث من تلقاء نفسه، سينخفض مستوى مشاركة البشر وتدخلهم في البحوث بكثير مقارنة باليوم، والحال اليوم أصلاً ليس مثالياً. وبحسب تجربته الشخصية، تُكتب معظم الشيفرة البرمجية بواسطة الذكاء الاصطناعي، و"لم يعد الناس يدققون في الشيفرة بعناية كما كانوا."
وأدلى كوكوف بشهادته أمام أعضاء المجلس بأن تجربته في العمل لدى Anthropic وOpenAI أقنعته أن الشركتين تفتقران إلى ضمانات أمان كافية،ومع ذلك تُحرِزان تقدماً في البحث والتطوير. وقال: "احتمال أن يفقد البشر السيطرة وأن يتولى الذكاء الاصطناعي زمام الأمور يتجاوز نصف الحالات، وقد يؤدي في النهاية إلى إبادة البشر. وفق تجربتي، فبالنظر إلى ضخامة العواقب المحتملة، فإن أسلوب الشركتين متهور للغاية."
وعندما أعلن كوكوف استقالته من منصبه في Anthropic على منصة X، نشر منشوراً يتهم فيه Anthropic وOpenAI بعدم التصرف بمسؤولية،وراهناً بأرواح الناس. وانتشر المنشور لاحقاً على نطاق واسع.
وفي جلسة الاستماع، دعا كوكوف مختبرات الذكاء الاصطناعي إلى زيادة الشفافية وإبطاء وتيرة التطور التقني المتسارع. وقال: "هذه الشركات تعتمد منهج الشركات الناشئة:تقدّم بسرعة أولاً، ثم أصلح المشكلات لاحقاً. هذا مقبول في تطبيق لمشاركة الصور، لكنه غير مقبول في تطوير أقوى تقنية في التاريخ."
وفقًا لما أوردته IT之家 سابقًا، في شهر 9 من هذا العام، أصدر كوكس تحذيرًا عند استقالته: «الباحثون الذين يطورون الذكاء الاصطناعي يؤمنون فعلًا بأن الذكاء الاصطناعي قد يقتلنا جميعًا قبل نهاية عقد 20 من القرن الحالي.هذا ليس حيلة تسويقية。”
لم related reading: