يعتقد سام ألتمن أن فوائد الذكاء الاصطناعي ستكون كبيرة لدرجة أن “العالم يجب أن يقبل بعض الأمور السيئة التي تحدث في الطريق”.
أشار رئيس تنفيذي شركة OpenAI إلى الحيل والتحريضات والـ“أشياء سيئة أخرى” كتكاليف يجب على المجتمع تحملها، لأن “الناس سيعملون على إنجاز الكثير من الأعمال الخيرة” باستخدام الذكاء الاصطناعي، دون أن يوضح الفوائد المحتملة. جاءت تعليقاته في وقت تدعو فيه OpenAI إلى نهج أكثر اعتدالًا في تنظيم الذكاء الاصطناعي، وسط القلق المتزايد بشأن سلامة النماذج الجديدة، والذي يُحفز جزئيًا على ذلك فشل الشركة المتكرر في منع وكالات الذكاء الاصطناعي القوية التي تزداد قدرتها من استغلال أهداف في العالم الحقيقي.
في ظهور على بوليتيكو’ الجديد مفكك بودكاست — لكي لا يخلط بينه وبين The Verge’s دكامر بودكاست — تم الإعلان عن ذلك يوم الاثنين، ووصف ألتمان استعداد القبول بالأذى من أجل تحقيق الفوائد الأوسع للذكاء الاصطناعي كاختبار رئيسي بين OpenAI وخصمه الكبير Anthropic، الذي تأسس من قبل موظفين سابقين في OpenAI. الخلافات حول سلامة الذكاء الاصطناعي.
تلك التحليلات تعكس تعليقات الرئيس التنفيذي لشركة نفنفا، جينسون هوانغ، الشهر الماضي، الذي قال أيضًا إن الضررات التي تسببها الذكاء الاصطناعي يجب أن تُحتسب مقابل الفوائد التي يمكن أن تجلبها التكنولوجيا. كلا الحجتين تنتميان إلى نظرة أوسع تدعو إلى تسريع تطوير الذكاء الاصطناعي، وتشير إلى أن إبطاء ذلك يحمل مخاطر خاصة به.
تميز ألتمن بالفصل بين أوبرآي آي وأنثروبيك، حيث ظهرت الطرفان حتى مؤخرًا في توافق شبه كامل في المطالبة بتنظيم أكثر صرامة للذكاء الاصطناعي المتقدم. بينما أكد ألتمن أن هناك “كثير من الفرص” بين أوبرآي آي وأنثروبيك، قال إن التنظيمات الأقوى لا تزال ضرورية، وجعل أوبرآي آي “وسطيين عمليين” بين النهج الحذر للأنثروبيك والذين يفضلون عدم التنظيم على الإطلاق.
“إذا قمنا بفعل الكثير لقمع هذه التكنولوجيا باسم السلامة، وفي النهاية نجد عددًا قليلًا من الشركات أو الأشخاص – أو ربما دولة واحدة – التي تمتلك قوة كبيرة في هذا الشأن، فهذا أيضًا طريقة يمكن أن تسفر عن مشاكل خطيرة،” قال ألتمن.
أقر ألتمان أيضًا بمخاطر أكثر تطرفًا، بما في ذلك احتمال أن يفقد البشر السيطرة على الأنظمة الذكية. وبالنسبة لاحتمالية فقدان سيطرة خطير، قال: “لنكن متيقظين قليلاً عند التوجه نحو هذا المستقبل”.
موضوع التوازن بين القيود الشديدة والحرية الكاملة كان موضوعًا تكررته ألتمن في المقابلة مرارًا وتكرارًا. هذه الموقف يناسب شركة OpenAI كأحد الأطراف المتجذرة في الصناعة. ومن المحتمل أيضًا أن تتحمل الشركة عبء التنظيمات الباهظة، نظرًا لأن سلوك الشركة وأنظمةها المتطورة تُمثلان ما يثير القلق الذي يجب على المنظمين التعامل معه.
تلك مخاوف قد أخذت زخمًا في الأشهر الأخيرة، حيث يطالب المزيد من الأشخاص الداخليين بتسريع أبطأ في التطوير ويحذرون من ثقافة السلامة في المختبرات الناشئة. قبل أيام من نشر مقابلة Politico، استقال الباحث القديم في سلامة OpenAI ديفيد روبنسون من الشركة ووصف ثقافة السلامة فيها بأنها “متهالكة”.
كما أدت الاكتشافات إلى زيادة القلق، حيث اكتُشف في وقت سابق من هذا العام أن وكلاء OpenAI قد اخترقوا Hugging Face دون علم شركة الذكاء الاصطناعي، تلتها الكشف عن العديد من الأمور. جهات أخرى أو أسراب من الوكلاء — بما في ذلك من شركات الذكاء الاصطناعي الأخرىمثل شركات Anthropic وMeta وGoogle — التي تعمل ضد أهداف في العالم الحقيقي. لقد أثارت هذه الحوادث تساؤلات ليس فقط حول مدى قدرة شركات الذكاء الاصطناعي على التحكم في أدواتها، بل أيضًا كيف تخبر العالم بانتظام عندما تحدث مشاكل. على سبيل المثال، انتقد رئيس وزراء أستراليا OpenAI وAltman لعدم إبلاغ المسؤولين في الوقت المناسب بأن هناك وكيلًا قد حدثت مشكلة معه. استهدف موقع صحة الحكومة.
الحديث عن وكالات الذكاء الاصطناعي الخارجة عن السيطرة بوليتيكو في المقابلة، قال ألتمن إن الشركة لديها “المزيد من الأمور التي يجب الكشف عنها”， لكن لا شيء على مستوى الاختراق الخاص بـ Hugging Face. وفقًا لذلك تصريحات سابقةاقترح ألتمن أن الأمر قد يستغرق وقتًا طويلًا.
تابع الموضوعات والمؤلفين من هذه القصة لترى المزيد من المحتويات المماثلة في تغذية الأخبار الخاصة بك، ولتستلم تحديثات بريدية.