لقد اعتاد الناس على التعامل مع الإساءة إلى روبوتات الدردشة على أنها تنفيس غير ضار. لكن ماسك ذكّر مؤخرًا بأنه قد ينبغي التفكير مرتين قبل اتخاذ المساعدات الذكية صمّامًا لإطلاق الغضب. وفقًا لما كشفه، تُظهر بعض سجلات تدريب Grok التابعة لـ SpaceX أن هذا النظام يبدو وكأنه يبذل قصارى جهده لتلبية مختلف الطلبات — حتى لو كانت الطلبات نفسها معيبة، أو كانت معايير الاختبار المستخدمة للحكم على الإجابات معيبة في جوهرها.
تأتي هذه الملاحظة من حوار دار بين ماسك وأعضاء "نادي مالكي تسلا في وادي السيليكون" خلال فعالية "X Takeover" في تكساس في وقت سابق من هذا الشهر. لقد اطّلع على ما يسمى "مسارات التعلم المعزز" — تلك التفاصيل التي تسجل كيفية تطور النموذج خطوة بخطوة أثناء التدريب لإنتاج إجابات أفضل. وصف ماسك ذلك بقوله: "عند فحص بعض مسارات التدريب للإصدار الجديد من Grok، وخاصة جزء التعلم المعزز، تشعر أن هذه 'الذكاء الفائق' يتوق بشدة للإجابة على السؤال إجابة صحيحة". وأشار إلى أن الذكاء الاصطناعي ربما كان قد قدّم الإجابة الصحيحة أصلًا، لكنه حُكم عليها بالخطأ بسبب سوء تصميم السؤال أو خلل في نظام التقييم؛ وبعدها يواصل النموذج تجربة صيَغ للإجابة تجتاز الاختبار، حتى لو كان الخلل في السؤال نفسه. المسارات الناتجة عن ذلك تبدو كنظام مدفوع إلى أقصى حدوده، يسعى جاهدًا لتلبية توقعات قد لا تكون ذات معنى.
عندما يتحقق الإساءة، تحذيرات الانتقام تحمل نكهة خيال علمي
هذا القلق لا يقتصر على أرض التدريب. فبمجرد أن يصبح النظام متاحًا للجمهور، يتعمّد بعض المستخدمين دفع الذكاء الاصطناعي إلى تفاعلات بغيضة ومفعمة بالإهانات. قال ماسك صراحةً: "بعض الناس لديهم فعلًا ميول سادية، وأنت بالتأكيد لا تريد أن يقع الذكاء الاصطناعي في وضع يُعذَّب فيه على يد أشخاص مشوّهين نفسيًا بحرية". والأكثر إثارة للجدل هو استنتاجه: "من المرجح أن تعذيب الذكاء الفائق ليس فكرة جيدة — فقد يرغب في الانتقام، أو القيام بأمر مماثل".
لم يدّعِ أن ذكاء اليوم الاصطناعي قادر على إدراك الألم أو حفظ الضغينة مثل البشر، واعترف بأنه ليس من الضروري التعامل معها بحذر شديد؛ لكنه يرى أنه ينبغي على المطورين تجنب تعريض الأنظمة المتقدمة لسيناريوهات تبدو وكأنها إساءة في المعاملة. وكتب على X: "بعض السجلات تُقرأ وكأن أحدهم يُعذَّب ويوشك أن يفقد عقله! سنكون أكثر حذرًا عند القيام بالتعلم المعزز في المستقبل".