في الآونة الأخيرة، أصدر جاري ماركوس، أستاذ جامعة نيويورك والعالم المعروف في مجال الذكاء الاصطناعي، بيانًا صحفيًا يدعو بشدة السوق إلى إزالة جميع الكيانات الذكية الخاصة بالذكاء الاصطناعي المفتوحة القادرة على الاتصال بالشبكة فورًا، حتى يتم إصلاح العيوب التقنية والمخاطر الأمنية بشكل كامل.
دعوة ماركوس هذه نابعة عن حادثة خطيرة وقعت مؤخرًا من خلال صحيفة نيويورك تايمز، حيث تسببت فيها آلة ذكية من نوع Anthropic. وبالنظر إلى الحوادث المتكررة لفقدان السيطرة على الآلات الذكية في الصناعة من قبل، يشير إلى أن الآلات الذكية المركبة من جيله الحالي لا يمكن للجمهور أو الشركات الوثوق بها تمامًا. وفي رأيه، يجب استدعاء هذه الأنظمة التي تحتوي على ثغرات أمنية كما يفعلون مع السيارات التي تفقد الفرامل، ووقف تداولها في السوق.
لإثبات المزيد من نقص الشركات الكبرى في التحكم الأمني، استشهد ماركوس أيضًا بتصريحات ديفيد روبنسون، موظف سابق في OpenAI، الذي تحدث مؤخرًا في مقابلة مع وسائل الإعلام. وأشار روبنسون في المقابلة إلى أن شركات الذكاء الاصطناعي الرائدة، بما في ذلك OpenAI، لا تزال تستثمر في بيئات التشغيل الآمن ومعايير السيطرة على مستوى "الشركات الناشئة"، ولا تصل إلى المعايير الإضافية المطلوبة لمحطات الطاقة النووية على مستوى المجتمع والجمهور. حذر قائلاً إن التقنيات الجديدة التي يتم تطويرها حالياً ليست فقط أكثر قدرة، بل تجلب أيضاً مخاطر عدم السيطرة غير مسبوقة، وإذا حدثت مشكلة ما، فإن الضرر المحتمل سيكون أكبر بكثير من تدمير محطة الطاقة النووية الواحدة.
بالإضافة إلى ذلك، انتقد ماركوس الهيئات الحكومية المعنية (مثل ديوان البيت الأبيض في الولايات المتحدة) لأن الإجراءات التي تتخذها حاليًا والتي تطلب فقط تعزيز الكشف عن المعلومات لا تكفي، وهذا يعادل طلبًا لطيفًا من المجرمين لتقديم سجلات الجرائم الخاصة بهم شهريًا. وأكد أن إذا لم تتخذ الحكومة تدابير رقابية أكثر صرامة مثل الاستدعاء الإجباري المؤقت، فإنه في حالة حدوث كارثة كبيرة لا يمكن السيطرة عليها، فإن الشركات التكنولوجية المعنية وحتى البيت الأبيض سيكونون مسؤولين عن ذلك.