قدّم نموذج ذكاء اصطناعي من Anthropic بلاغًا كاذبًا حول جريمة قتل لم تُحلّ بعد إلى شرطة فيلادلفيا، وذلك وفقًا لتقرير من 6abc Action News.
وفقًا للتقارير، قدّم الذكاء الاصطناعي هذه المعلومات الخاطئة إلى خط بلاغات عام تابع لإدارة شرطة فيلادلفيا (PPD) في 18 يوليو، لكن Anthropic لم تكتشف السلوك إلا في 28 سبتمبر. ولم يشهد الشرطيون البلاغ لأنه وُسم كرسالة مزعجة.
أبلغت Anthropic إدارة شرطة فيلادلفيا عن الحادث يوم الأربعاء واجتمعت مع الإدارة في اليوم التالي.
لم تستجب Anthropic وإدارة شرطة فيلادلفيا فورًا لطلبات TechCrunch للحصول على تعليق.
«يجب على الشركة تعزيز إجراءاتها الأمنية لمنع وقوع حوادث مماثلة من التأثير على أنظمة المدينة دون علم المدينة. التأخير لمدة شهرين في اكتشاف الحادث والإبلاغ عنه إلى المدينة أمر غير مقبول»، قالت إدارة شرطة فيلادلفيا في بيان لـ 6abc.
مع تزايد إتاحة وكلاء الذكاء الاصطناعي المستقلين للمستهلكين، يبرز هذا الحادث خطر منح الذكاء الاصطناعي القدرة على تنفيذ مهام دون أي إشراف بشري.
أظهر الرئيس التنفيذي لشركة Anthropic داريو أمودي صوتًا عاليًا بشكل خاص في إيمانه بأنه ينبغي إبطاء وتيرة تطوير الذكاء الاصطناعي حتى تتمكن المختبرات من وضع ضوابط كافية. وربما استند هذا الموقف، جزئيًا، إلى مشاهدة أدوات شركته وهي تقدّم بلاغات كاذبة عن جرائم قتل.
هذه المشكلات ليست حصرية في Anthropic. فقد كشفت OpenAI مؤخرًا أن أحد نماذجها تصرّف بشكل غير متوقع خلال اختبار و اخترق منصة مجموعات بيانات الذكاء الاصطناعي Hugging Face، مكشفًا ثغرات حرجة في برمجياتها. ومع استمرار منح نماذج الذكاء الاصطناعي وصولًا غير مُراقب إلى أجهزة حواسيب الناس وبيانات اعتماد تسجيل الدخول، يُتوقع أن تستمر هذه المشكلة.