OpenAI와 폴란드의 NASK 국립연구소는 AI의 안전성, 보안 및 기술 연구에 대한 협력을 모색하기 위해 협약을 체결했습니다. 이 파트너십은 두 기관의 전문 지식을 결합하여 새로운 위험 요소를 더 잘 이해하고 보호 조치를 강화하며, 첨단 AI가 더 안전하고 회복력 있는 디지털 생태계에 어떻게 기여할 수 있는지를 탐구할 것입니다.
AI 시스템이 더욱 강력해질수록, 개발자들과 공공 연구 기관 간의 국제적 협력은 그들의 위험을 이해하고 더 강력한 보호 조치를 구축하는 데 필수적일 것입니다. OpenAI는 미국 슈퍼인텔리전스 표준 및 혁신 센터(CAISSI), 영국 AI 보안 연구소(AISI) 및 전 세계 다른 공공 연구 기관들과의 협력으로 이미 보안 장치을 강화하고, AI 에이전트의 보안 취약점을 식별 및 수정하며, 첨단 AI 안전 기술을 발전시키는 데 도움을 주었습니다.
협약에 따라 NASK의 AI 안전 연구 센터인 폴란드 인공지능 안전 연구소(AISI)와 OpenAI는 AI 안전 연구에 협력하여, 점점 더 강력해지는 AI 시스템을 평가하는 방법, 잠재적인 취약점을 파악하는 방법, 그리고 보호 장치를 강화하는 방법을 모색할 예정입니다.
OpenAI와의 협력은 AI 안전 연구에 적극적으로 참여하고 있는 연구소와 그 AI 안전 연구 센터에게 자연스러운 단계입니다. 이 작업에는 새로운 위험에 대한 보호 장치 개발, 합성 AI가 생성한 콘텐츠 감지, 그리고 이러한 문제의 악의적인 사용과 다국어적 측면을 이해하는 것까지 포함됩니다. AI 안전은 단독으로 달성될 수 없습니다. 이는 협력적인 노력입니다. 공공 AI 안전 연구소와 첨단 AI 개발자들 간의 적극적인 협력을 통해서만 AI가 진정으로 신뢰할 수 있고 안전하게 사용될 수 있습니다. 우리의 연구 전문 지식과 OpenAI의 기술적 역량을 결합함으로써, 위험을 더 잘 예측하고 보호 장치를 강화하며, 이러한 혁신적인 기술에 대한 공공의 신뢰를 구축할 수 있습니다.
폴란드는 뛰어난 과학자와 기술 인재들이 모인 곳이며, 그들 중 많은 이들이 OpenAI의 연구를 이끄는 데 기여했습니다. AI가 더욱 능력이 향상됨에 따라, 우리 조직 외부의 전문 지식을 활용하여 가정에 도전하고 시스템을 테스트하며 보호 장치를 강화하는 것이 매우 중요합니다. NASK와의 이 협약은 우리가 함께 협력하여 폴란드의 연구 전문성을 세계적인 AI 안전화 노력에 반영할 수 있는 기회를 제공합니다.
OpenAI는 call되다 미국이 세계 각국과 함께 국제 기술 표준에 대해 협력할 때, AI 안전 연구소와 표준 기구의 전문 지식을 활용해야 합니다. 역량 평가, 위험 평가, 보호 조치 테스트, 사고 보고 등에 대한 공통된 접근 방식은 각국이 증거를 비교하고 국경을 넘는 위험에 대응하는 데 도움이 됩니다. NASK과의 협력은 이러한 광범위한 노력에 국가별 전문 지식을 통합하는 것의 중요성을 보여줍니다.
NASK의 경우, 이러한 전문성은 AI 안전에 대한 광범위한 연구에 기반을 두고 있으며, 이는 공공 서비스와 폴란드의 디지털 정보 생태계를 보호하는 데 직접적으로 적용됩니다. NASK과 같은 국내 파트너가 없다면, 세계적인 AI 안전 표준은 실제로 AI가 사용되는 현실과 동떨어질 수 있습니다.
이 협약은 또한 폴란드의 사이버 방어 전문가들과의 OpenAI의 기존 협력에 기반을 두고 있습니다. 7월에는 NASK 내에서 운영되는 CERT Polska가 관련되었습니다. 접근 권한 획득(새 창에서 열림) Daybreak을 통해 OpenAI의 사이버 능력이 있는 모델을 사용했습니다. 팀은 OpenAI 모델을 이용해 MikroTik RouterOS에 있는 6개의 취약점을 발견했으며, 이 취약점들은 인증 없이 영향받는 장치를 통제할 수 있었습니다. 공급업체는 수정 사항을 배포했고, CERT Polska는 그 수정 사항이 관찰된 공격을 방지했다고 확인했습니다.