وقعت شركة OpenAI ومعهد NASK الوطني للأبحاث في بولندا اتفاقًا لاستكشاف التعاون في مجالات سلامة الذكاء الاصطناعي والأمان والبحث التقني. سيجمع هذا التعاون الخبرات من كلا المنظمتين لتحسين فهم المخاطر الناشئة وتعزيز الحواجز الوقائية، واستكشاف كيف يمكن للذكاء الاصطناعي المتقدم أن يساهم في إنشاء نظام رقمي أكثر أمانًا ومتانة.
مع تطور الأنظمة الذكية، سيكون التعاون الدولي بين المطورين ومؤسسات البحث العامة أمرًا ضروريًا لفهم المخاطر وتطوير حواجز وقائية أكثر قوة. لقد ساعد العمل القائم من قبل شركة OpenAI مع مركز الولايات المتحدة لتعزيز المعايير والابتكار في الذكاء الاصطناعي الفائق (CAISSI)، ومعهد أمن الذكاء الاصطناعي البريطاني (AISI)، والمؤسسات البحثية العامة الأخرى في جميع أنحاء العالم، في تعزيز الحواجز الأمنية، وتحديد وإصلاح نقاط الضعف الأمنية في وكالات الذكاء الاصطناعي، وتقدم أمن الذكاء الاصطناعي على المستوى المتقدم.
بموجب الاتفاق، سيتعاون مركز أبحاث سلامة الذكاء الاصطناعي التابع لشركة NASK – الذي يُعرف باسم معهد سلامة الذكاء الاصطناعي البولندي (AISI) – وOpenAI في أبحاث سلامة الذكاء الاصطناعي، لاستكشاف طرق تقييم الأنظمة الذكية ذات القدرات المتزايدة، وتحديد الثغرات المحتملة وتعزيز الحواجز الوقائية.
إن التعاون مع OpenAI هو خطوة طبيعية بالنسبة للمعهد ومركز أبحاث أمان الذكاء الاصطناعي التابع له، الذي يشارك بنشاط في أبحاث الأمان الرقمي. تشمل هذه الأعمال تطوير ضوابط وقائية ضد المخاطر الناشئة، وكشف المحتوى المنتج بواسطة الذكاء الاصطناعي الاصطناعي، وفهم الاستخدامات الضارة لهذا النوع من الذكاء الاصطناعي بالإضافة إلى الجوانب المتعددة اللغات التي تواجهها هذه التحديات. لا يمكن تحقيق أمان الذكاء الاصطناعي بمفرده. إنها جهود تعاونية، ولا يمكننا ضمان أن تكون الذكاء الاصطناعي موثوقًا وآمنًا للاستخدام إلا من خلال التعاون النشط بين معاهد السلامة الرقمية العامة ومطوري الذكاء الاصطناعي المتقدم. من خلال دمج خبراتنا البحثية مع القدرات التقنية لشركة OpenAI، يمكننا التنبؤ بالمخاطر بشكل أفضل وتعزيز الضوابط الوقائية وبناء الثقة العامة في هذه التقنيات المبتكرة.
بولندا ملاذ للعلماء المتميزين والمواهب التقنية، والعديد منهم ساعدوا في قيادة أبحاث شركة OpenAI. مع تطور الذكاء الاصطناعي، من الضروري أن نستفيد من الخبرات خارج مؤسستنا لنفترض ما نعتقده، واختبار أنظمتنا وتعزيز الحواجز الوقائية. هذا الاتفاق مع NASK يفتح الباب للقيام بذلك معًا، ويجلب خبرات البحث في بولندا إلى الجهود الدولية لجعل الذكاء الاصطناعي أكثر أمانًا.
أطلقت شركة OpenAI سمي لتعاون الولايات المتحدة مع دول العالم في المعايير التقنية الدولية المتعلقة بالذكاء الاصطناعي الحديث، باستخدام خبرات مؤسسات أمن الذكاء الاصطناعي وهيئات المعايير. يمكن للأساليب المشتركة لتقييم القدرات، وتقييم المخاطر، واختبار الحواجز الوقائية، والتقارير عن الحوادث أن تساعد الدول على مقارنة الأدلة والاستجابة للمخاطر التي تعبر الحدود. يعكس التعاون مع NASK قيمة إدخال الخبرات الوطنية في هذا الجهد الأوسع.
في حالة شركة NASK، يعتمد هذا الخبرة على أبحاث واسعة في سلامة الذكاء الاصطناعي، والتي تم تطبيقها مباشرة على حماية الخدمات العامة ونظام البيانات الرقمي في بولندا. بدون شركاء وطنيين مثل NASK، قد يظل معايير سلامة الذكاء الاصطناعي العالمية منفصلة عن الواقع الذي يتم فيه استخدام الذكاء الاصطناعي فعليًا.
يستند الاتفاق أيضًا على العمل القائم لشركة OpenAI مع المدافعين السيبرانيين في بولندا. في يوليو، حصل CERT Polska، الذي يعمل ضمن NASK، على الوصول إلى النماذج السيبرانية القادرة على التعامل مع الأمن السيبراني التابعة لـ OpenAI عبر Daybreak. استخدم الفريق نماذج OpenAI لاكتشاف ستثغرات في نظام MikroTik RouterOS، بما في ذلك ثغرات يمكن استخدامها للسيطرة على الأجهزة المتأثرة دون الحاجة إلى المصادقة. أصدر المزود التصحيحات، والتي أكد CERT Polska أنها منعت الهجمات التي رصدتها.