وقّعت OpenAI ومعهد NASK الوطني البولندي اتفاقية لاستكشاف التعاون في مجالات سلامة وأمن الذكاء الاصطناعي والبحوث التقنية. وسيجمع هذا التعاون بين خبرات المنظمتين لفهم المخاطر الناشئة بشكل أفضل، وتعزيز الضمانات، واستكشاف كيف يمكن للذكاء الاصطناعي المتقدم أن يسهم في تحقيق نظام رقمي أكثر أمانًا ومرونة.
ومع ازدياد قدرات أنظمة الذكاء الاصطناعي، سيكون التعاون الدولي بين المطورين ومؤسسات البحث العامة أمرًا أساسيًا لفهم مخاطرها وبناء ضمانات أقوى. لقد ساعد العمل السابق لـ OpenAI مع المركز الأمريكي لتعزيز المعايير والابتكار من أجل الذكاء الفائق (CAISSI)، ومعهد أمن الذكاء الاصطناعي البريطاني (AISI)، ومؤسسات البحث العامة الأخرى حول العالم بالفعل في تعزيز الضمانات، وتحديد ثغرات أمنية في وكلاء الذكاء الاصطناعي وإصلاحها، وتطوير سلامة الذكاء الاصطناعي الرائد.
وبموجب الاتفاقية، سيتعاون مركز أبحاث سلامة الذكاء الاصطناعي في NASK – الذي يعمل بصفته معهد سلامة الذكاء الاصطناعي البولندي (AISI) – مع OpenAI في أبحاث سلامة الذكاء الاصطناعي، واستكشاف سبل تقييم أنظمة الذكاء الاصطناعي ذات القدرات المتزايدة، وتحديد الثغرات المحتملة، وتعزيز الضمانات.
“التعاون مع OpenAI خطوة طبيعية للمعهد ومركز أبحاث سلامة الذكاء الاصطناعي التابع له، والذي يشارك بفاعلية في أبحاث سلامة الذكاء الاصطناعي. يمتد هذا العمل ليشمل تطوير ضمانات ضد المخاطر الناشئة، وكشف المحتوى الاصطناعي المولّد بالذكاء الاصطناعي، وفهم الاستخدامات الخبيثة له والأبعاد متعددة اللغات لهذه التحديات. لا يمكن تحقيق سلامة الذكاء الاصطناعي بمعزل عن غيره. إنه جهد تعاوني، ولا يمكننا ضمان أن يصبح الذكاء الاصطناعي موثوقًا وآمنًا للاستخدام حقًا إلا من خلال التعاون النشط بين معاهد سلامة الذكاء الاصطناعي العامة ومطوري الذكاء الاصطناعي الرائد. ومن خلال الجمع بين خبرتنا البحثية وقدرات OpenAI التقنية، يمكننا توقع المخاطر بشكل أفضل، وتعزيز الضمانات، وبناء الثقة العامة في هذه التقنيات التحويلية.”
“تحتضن بولندا علماء ومواهب تقنية استثنائيين، ساهم كثير منهم في قيادة أبحاث OpenAI نفسها. ومع ازدياد قدرات الذكاء الاصطناعي، من الضروري أن نستفيد من خبرات خارج منظمتنا لتحدي افتراضاتنا واختبار أنظمتنا وتعزيز الضمانات. تفتح هذه الاتفاقية مع NASK الباب أمام تحقيق ذلك معًا، بإدخال الخبرة البحثية البولندية في الجهد الدولي لجعل الذكاء الاصطناعي أكثر أمانًا.”
دعت OpenAI إلى أن تعمل الولايات المتحدة مع دول العالم على معايير تقنية دولية للذكاء الاصطناعي الرائد، مستفيدةً من خبرات معاهد سلامة الذكاء الاصطناعي وهيئات المعايير. ويمكن للمناهج المشتركة في تقييم القدرات، وتقدير المخاطر، واختبار الضمانات، والإبلاغ عن الحوادث أن تساعد الدول على مقارنة الأدلة والاستجابة للمخاطر العابرة للحدود. ويعكس التعاون مع NASK قيمة إدخال الخبرات الوطنية في هذا الجهد الأوسع.
وفي حالة NASK، تستند هذه الخبرة إلى أبحاث موسعة في سلامة الذكاء الاصطناعي، تُطبَّق مباشرة على حماية الخدمات العامة والنظام الرقمي للمعلومات في بولندا. وبدون شركاء وطنيين مثل NASK، قد تظل معايير سلامة الذكاء الاصطناعي العالمية منفصلة عن الواقع الذي يُستخدم فيه الذكاء الاصطناعي فعليًا.
كما تبني الاتفاقية على العمل القائم لـ OpenAI مع المدافعين السيطريين في بولندا. ففي يوليو، حصل فريق CERT Polska، الذي يعمل ضمن NASK، على إمكانية الوصول(opens in a new window) إلى نماذج OpenAI ذات القدرات السيطرية عبر Daybreak. واستخدم الفريق نماذج OpenAI للمساعدة في اكتشاف ست ثغرات في MikroTik RouterOS، بما في ذلك عيوب يمكن دمجها للسيطرة على الأجهزة المتأثرة دون مصادقة. وأصدر المزوّد إصلاحات، أكدت CERT Polska أنها منعت الهجمات التي رصدها.