نموذج Inkling 2 Small من Thinking Machines يشتم في سلسلة تفكيره الداخلية. قرأ باحثون في Vals AI سجلات تفكير النموذج من 2,655 تشغيلاً عبر 13 اختباراً معيارياً، ووجدوا كلمة "fuck" أو تنويعاتها في 50 تشغيلاً، بإجمالي 316 حالة. جاءت 241 حالة من تشغيلين فقط انفلا عن السيطرة. في أحدهما، أُوكلت للنموذج مهمة حساب مسار كويكب، فأنتج استجابة واحدة من 500,000 حرف، أي بطول رواية تقريباً، يكرر فيها نفس الجمل مع 158 لفظاً نبياً. ProgramBench كان الأكثر تأثراً، إذ تأثر 20 من أصل 200 تشغيل.
Inkling 2 Small يشتم عادةً بسبب أخطائه أو الاختراقات الظاهرة أو حين يستسلم. جاء في أحد التشغيلات: "FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS." لكن الألفاظ النابية لا تعمل كإشارة تحذير. ورغم أن 46 من أصل 48 تشغيلاً مُقيَّماً تضمنت شتيمة قد فشلت، فإن نحو 75 بالمئة من جميع التشغيلات المُقيَّمة تفشل على أي حال، و96 بالمئة من التشغيلات الفاشلة لم تتضمن أي لفظ نبي. لا يرى المستخدمون خطوات التفكير هذه عادةً، أو يرونها فقط عبر مرشح.
إعلان المصدر: Vals.ai