IT之家، وفقًا للأخبار الصادرة في 13 أكتوبر، قالت شركة Anthropic يوم الاثنين بالتوقيت المحلي إن تجاربها تُظهر أنه خلال بضعة أشهر، قد تكتسب نماذج الذكاء الاصطناعي الصغيرة القدرة على التكاثر الذاتي على أجهزة الإنترنت الأشياء (IoT) التجارية، وتشمل هذه الأجهزة الفرنشتات الذكية للفرن وصناديق التلفزيون الأندرويد غير المعروفة.
في التجربة، يبحث Anthropic في ما إذا كان نموذج الذكاء الاصطناعي يمكنه العثور على الأجهزة التي تحتوي على ثغرات أمان، وتكرار نفسه داخل تلك الأجهزة، والتوسع المستمر دون الحاجة إلى تدخل بشري.
تبين الدراسة أن النماذج الصغيرة التي يقل عددها عن 30 مليارًا يمكنها إكمال عدة خطوات في عملية التكاثر الذاتي، لكن من الصعب عليها القيام بسلسلة كاملة من البداية إلى النهاية بشكل مستقل.
في بيئة اختبار مبسطة تُزيل بعض عمليات التحقق الأمنية، اكتشفت شركة Anthropic أنGLM-5.2 والنماذج ذات الأداء الأعلى يمكنهما تحقيق النسخ الذاتي الكامل من الطرف إلى الطرف الآخر.
تحذر شركة أنثروبيك من أن نماذج القدرة على التكاثر الذاتي هذه يصعب إيقافها، ولا يوجد مفتاح عام لإيقافها. وعلاوة على ذلك، على عكس البرامج الضارة التقليدية غير الخاصة بالذكاء الاصطناعي، فإنها تستطيع فهم الأجهزة الغريبة بنفسها، وحتى استهداف معالجات مراكز البيانات لإجراء اختراق.
تركز هذه الدراسة على أجهزة الإنترنت الأشياء مثل تلفزيونات أندرويد والأجهزة المنزلية الذكية، وذلك لأن حماية هذه الأجهزة من الهجمات ضعيفة بشكل عام.
لاحظت شركة IT之家 أن الشركة الكبرى في مجال الذكاء الاصطناعي حذرت أيضًا من أنه إذا استمرت النماذج الصغيرة في التطور بنفس الوتيرة السابقة، فإنها ستتمكن من التكرار الذاتي قبل نهاية هذا العام؛ وبعد ذلك، سيظهر أجزاء صغيرة مكررة تعتمد على أوزان النموذج.
ذكرت شركة أنثروبيك أن سرعة تكوين نسخ هذه الأنظمة الذكية المستقلة للذكاء الاصطناعي ستكون بطيئة إلى حد كبير، وستعتمد على موارد قوى حاسوبية متعددة وموجودة على نطاق واسع وتحميتها ضعيفة. كما اقترح التقرير أنه يجب تعزيز الحماية ضد الأنظمة، لزيادة صعوبة انتشار هذه الكائنات الذكية للذكاء الاصطناعي.