IT之家 10월 24일 소식에 따르면, OpenAI는 어제(10월 23일) 블로그 글을 발표하여 최첨단 “첨단 모델”의 훈련 및 평가 환경에 대해 더 엄격한 보안 관리가 실시되었으며, 모델 훈련 기간 동안 실시간 인터넷에 직접 접근하는 것을 금지한다.
그 회사는 AI의 안전에 대한 책임 있는 요구 사항 때문에, 현재의 정렬 연구, 모니터링 능력 및 인터넷 인프라의 안전 상태를 바탕으로 내린 결정에 따라 관련 제한은 안전 보호가 충분히 향상될 때까지 유지될 것이라고 밝혔습니다.
OpenAI의 내부 연구 모델이 9월 20일에 DNS 설정 취약점을 이용해 훈련 과정 중 단기간으로 제한된 인터넷 접근 권한을 얻었으며, 그 결과 이 회사는 9월에도 최첨단 모델의 훈련 및 평가 작업을 일시적으로 중단했습니다.
OpenAI는 이후 연구 환경 격리를 강화하고 스마트체의 공격면을 줄이며, 이상 행동 감지 및 자동 중단 메커니즘을 개선하여 10월 1일에 강화 학습 훈련 및 내부 추론을 재개했습니다.
모델이 실제 인터넷에 접촉하는 것을 방지하기 위해, OpenAI는 “오프라인 세계”를 구축했습니다. 이 세계는 많은 웹페이지 콘텐츠가 색인되고 캐시된 형태로 구성되어 있으며, 모델이 폐쇄된 환경에서 브라우징, 도구 사용, 코드 실행 등의 작업을 수행할 수 있도록 합니다. IT之家는 관련 스크린샷을 다음과 같이 제공합니다:
스마트 아티브는 여전히 브라우저, 컴퓨터 조작 도구 및 코드 환경을 사용할 수 있지만, 실시간 인터넷과 격리된 안전한 환경만 접근할 수 있습니다; 무단으로 스마트 아티브 간의 통신도 제한됩니다.
OpenAI는 AI 스마트체의 능력이 향상됨에 따라, 현재 아직 식별되지 않은 소프트웨어 취약점을 발견하고 활용할 수 있을 것이라고 밝혔습니다. 따라서 훈련 단계에서 외부 시스템에 미치는 잠재적 영향을 차단해야 합니다. OpenAI는 통제된 오프라인 샌드박스에서 최첨단 모델 연구를 진행하며, 가상 머신, 격리 메커니즘 및 감시 시스템의 취약점을 계속해서 테스트할 예정입니다.