OpenAI와 폴란드 NASK 국립연구소는 AI 안전, 보안 및 기술 연구 분야의 협력 방안을 모색하기 위한 협약을 체결했습니다. 이번 파트너십은 양 기관의 전문성을 결합하여 신흥 리스크를 더 잘 이해하고, 안전장치를 강화하며, 첨단 AI가 더욱 안전하고 탄력적인 디지털 생태계에 기여할 수 있는 방법을 탐구하는 것을 목표로 합니다.
AI 시스템이 더욱 강력해짐에 따라, 그 리스크를 이해하고 더 강력한 안전장치를 구축하기 위해서는 개발사와 공공 연구기관 간의 국제 협력이 필수적입니다. OpenAI가 미국 초지능 표준화 및 혁신 센터(CAISSI), 영국 AI 보안 연구원(AISI) 및 전 세계 다른 공공 연구기관과 수행해 온 기존 협력은 이미 안전장치 강화, AI 에이전트의 보안 취약점 발견 및 수정, 프론티어 AI 안전 발전에 기여해 왔습니다.
이번 협약을 통해 폴란드 AI 안전 연구원(AISI) 역할을 수행하는 NASK의 AI 안전 연구센터와 OpenAI는 AI 안전 연구 분야에서 협력하며, 점점 더 강력해지는 AI 시스템을 평가하고, 잠재적 취약점을 식별하며, 안전장치를 강화하는 방안을 탐구하게 됩니다.
“OpenAI와의 협력은 AI 안전 연구에 적극적으로 참여하고 있는 본 연구소와 그 AI 안전 연구센터에게 자연스러운 조치입니다. 이러한 활동에는 신흥 리스크에 대한 안전장치 개발, 합성 AI 생성 콘텐츠 탐지, 그리고 그 악의적 사용과 이러한 과제의 다국어적 측면에 대한 이해가 포함됩니다. AI 안전은 고립된 상태에서 달성될 수 없습니다. 이는 협력적인 노력이며, 공공 AI 안전 연구원과 프론티어 AI 개발사 간의 적극적인 협력을 통해서만 AI가 진정으로 신뢰할 수 있고 안전하게 사용될 수 있음을 보장할 수 있습니다. 우리의 연구 전문성과 OpenAI의 기술 역량을 결합함으로써, 우리는 리스크를 더 잘 예측하고, 안전장치를 강화하며, 이러한 혁신적 기술에 대한 대중의 신뢰를 구축할 수 있습니다.”
“폴란드는 뛰어난 과학자와 기술 인재의 보고이며, 이들 중 다수는 OpenAI 자체 연구를 이끌어 왔습니다. AI가 더욱 강력해짐에 따라, 우리의 가정에 도전하고, 시스템을 시험하며, 안전장치를 강화하기 위해 우리 조직 외부의 전문성을 활용하는 것이 매우 중요합니다. NASK와의 이번 협약은 함께 이를 수행할 수 있는 문을 열어주며, 폴란드의 연구 전문성을 AI를 더 안전하게 만들기 위한 국제적 노력에 결합시킵니다.”
OpenAI는 AI 안전 연구원 및 표준화 기구의 전문성을 활용하여 미국이 전 세계 국가들과 함께 프론티어 AI의 국제 기술 표준을 논의할 것을 촉구해 왔습니다 . 역량 평가, 리스크 평가, 안전장치 시험 및 사고 보고에 대한 공통된 접근 방식은 국가들이 증거를 비교하고 국경을 넘는 리스크에 대응하는 데 도움이 될 수 있습니다. NASK와의 협력은 이러한 더 넓은 노력에 국가적 전문성을 결합하는 것의 가치를 보여줍니다.
NASK의 경우, 이러한 전문성은 공공 서비스와 폴란드의 디지털 정보 생태계 보호에 직접 적용되는 광범위한 AI 안전 연구에 기반합니다. NASK와 같은 국가적 파트너가 없다면, 글로벌 AI 안전 표준은 AI가 실제로 사용되는 현실과 동떨어진 상태로 남을 수 있습니다.
이번 협약은 폴란드의 사이버 방어자들과 함께한 OpenAI의 기존 활동 위에 세워집니다. 7월에 NASK 산하에서 운영되는 CERT 폴란드는 Daybreak를 통해 OpenAI의 사이버 역량 모델에 대한 접근 권한을 얻었습니다(새 창에서 열림) . 해당 팀은 OpenAI 모델을 활용하여 MikroTik RouterOS의 6개 취약점을 발견하는 데 도움을 받았으며, 여기에는 인증 없이 영향받는 장치를 제어할 수 있도록 결합될 수 있는 결함들이 포함되어 있었습니다. 벤더는 수정 사항을 출시했으며, CERT 폴란드는 해당 수정 사항이 자신들이 관찰한 공격을 막는 것을 확인했습니다.