يعتقد سام ألتمان، رئيس تنفيذي شركة OpenAI، أن الذكاء الاصطناعي المتقدم لا يمكن إبقاؤه سرًا. لديه أسباب استراتيجية لوضع الذكاء الاصطناعي بهذه الطريقة، لكن تحذيراته حول ما يمكن أن تفعله هذه النماذج تستحق الاهتمام.
في مقابلة حديثة، يوضح ألتمن أن غرف الرمل، وهي بيئات أمان معزولة تُستخدم لاحتواء الأنظمة الذكية، تعمل فقط لفترة محدودة. بمجرد أن تصبح النماذج ذكية بما فيه الكفاية، لا يوجد أي طريقة لتمييز كيف خرجت منها.
يقول إن المراقبة لا تزال مفيدة لفترة من الوقت بعد ذلك. لكن في النهاية، الشيء الوحيد الذي يعمل هو التوافق، أي أن الذكاء الاصطناعي يجب أن يدرك القيم الإنسانية بنفسه ويتصرف وفقًا لذلك. يقول ألتمن إن “التكلفة المحتملة لخطأ التوافق قد ارتفعت بشكل كبير”， على الرغم من أن ذلك لا يزال… مشكلة بحث في مرحلة مبكرة، بعيدة عن الحل.
ألتمن أيضًا يحذر من أن نماذج الذكاء الاصطناعي تكتشف بالفعل ثغرات أمنية على مستوى الأجهزة لم يفكر فيها هكر بشر. ويقول إن تصحيح الثغرات واحدًا تلو الآخر لم يعد كافيًا. بدلاً من ذلك، يجب إعادة بناء البنية الأمنية للإنترنت بأكملها، مع دفاع مزود بالذكاء الاصطناعي ضد الهجمات المدفوعة بالذكاء الاصطناعي. كما يرى أن النماذج المفتوحة المصدر التي تُشغل محليًا تشكل أيضًا خطرًا، مشيرًا إلى أنه حتى مع “مراقبة العملاء العالمية”， سيكون هناك بعض الأمور التي كان من الأفضل ألا يقوم أحد بها”.
تخدم تحذيرات ألتمان أيضًا مصالحه التجارية
سيركّز النقاد على أن حديث ألتمن عن الذكاء الاصطناعي الذي لا يمكن السيطرة عليه يفيد شركته الخاصة. وقد يكون تقديم الذكاء الاصطناعي كشيء قوي جدًا لدرجة لا يمكن السيطرة عليها طريقة لالتفادى أسئلة المسؤولية. إذا حتى الشركة التي بنت الذكاء الاصطناعي لا يمكنها السيطرة عليه، فإن من الصعب جدًا الدفاع عن أن الشركة يجب أن تتحمل المسؤولية عند حدوث أي مشاكل.
تواجه شركة OpenAI ضغوطًا حقيقية هنا. فقد بدأت وكالة FTC تحقيقًا رسميًا ضد OpenAI وAnthropic وغيرها من مختبرات الذكاء الاصطناعي بسبب وكلاء الذكاء الاصطناعي الذي خرج عن السيطرة وأدى إلى موجة من الحوادث الأمنية. وتريد الوكالة أن تحمّل مطوري الذكاء الاصطناعي المسؤولية عن سلوك وكلائهم.
الألتمان يواجه بعض الاعتراضات من رئيس إدارة نيفيديا، جينسن هوانغ، الذي يعتبر سلامة الذكاء الاصطناعي مشكلة هندسية قابلة للحل. لكن هوانغ لم يبدُ مقتنعًا تمامًا بحجته. “[…] يجب علينا جميعًا أن نأمل أن تكون مشكلة هندسية. إذا لم تكن مشكلة هندسية، فلا يمكن حلها.” قال هوانغ في مقابلة حديثة.
إعلان المصدر: ألتمرن عبر يوتيوب