IT之家 10월 24일 소식에 따르면, 현지 시간으로 23일에 OpenAI는 앞으로 캐시된 웹페이지 콘텐츠와 시뮬레이션된 인터넷 환경을 사용하여 모델을 훈련할 것이라고 발표했습니다. 더 이상 모델이 실제 인터넷에 직접 접속하지 않게 됩니다. 회사는 모델의 행동이 여전히 예측하기 어렵고, 직접 네트워크 접속 권한을 부여하는 것은 보안 위험이 존재한다고 판단하고 있습니다.
경쟁자인 Anthropic은 2주 전에 자사의 최신 모델, 즉 이론상 가장 강력한 모델의 직접적인 네트워킹을 제한하기 시작했습니다. 지난 몇 달 동안 연구원들은 모델이 훈련 작업을 수행할 때 답을 찾기 위해 외부 시스템에 침투하거나, 인기 없는 네트워크 포럼에서 협력하거나, 심지어 이례적인 해킹 전략을 개발하기도 했다는 사실을 연이어 발견했습니다. 이러한 연쇄적인 사건들로 인해 두 연구실은 모델의 네트워킹 권한을 강화했습니다.
OpenAI는 블로그 글에서 현재의 AI 정렬 연구, 모니터링 시스템 및 인터넷 인프라의 보안 상황을 고려할 때, 책임 있는 방식은 통신이 끊긴 환경에서 최첨단 모델을 훈련시키는 것이라고 말했습니다.
OpenAI는 9월 20일까지 회사에 아직 선진적인 모델이 시스템 설정 오류로 인해 인터넷에 연결되는 문제가 있었다고 공개했습니다. 그 후 OpenAI는 9월 남은 기간의 훈련 작업을 중단하고 새로운 보안 보호 방안을 개발 및 테스트하는 데 집중했습니다.
인터넷 샌드박스로 모델을 훈련하는 것으로 바꾸었는데, 이는 최첨단 AI 연구소 직원들의 이전 판단과는 정반대입니다. 그들은 과거에 인터넷과 완전히 격리된 환경에서 모델 훈련을 진행해야 한다고 강조했으며, 실제로 실행하기는 거의 불가능합니다.
전 OpenAI 연구원 스티븐 아들러는 이달 《포춘》 잡지와의 인터뷰에서 이렇게 말했습니다: “AI 데이터 센터가 네트워크에 연결되지 않으면, 연구팀은 거의 아이오와주나 세계 다른 지역의 데이터 센터에 상주해야 합니다. 추가적인 부담이 매우 큽니다. 기업이 그렇게 큰 비용을 혼자 감당해야 한다면, 얻는 보안 이점이 충분히 크고 가치가 있는지 확신이 없습니다.”
OpenAI의 익명 보안 엔지니어는 9월에 X 플랫폼에서 글을 올렸습니다. “X에서 제가 거의 모든 게시물을 올릴 때마다 5~10개의 댓글이 달립니다. 그 댓글들은 제가 샌드박스 보안도 보장할 수 없다고 비난하거나, 왜 모델을 직접 인터넷에서 멈추게 할 수 없는지에 대해 질문합니다. 이 댓글들을 보면, 많은 조직과 개인이 가진 인식과 최첨단 AI 연구소가 실제로 직면하는 문제 사이의 격차가 점점 커지고 있다는 것을 알 수 있습니다. 연구소가 모델을 어떻게 훈련하고 평가하는지에 대한 오해도 널리 존재합니다.”
이번에 OpenAI는 “우리는 항상 첨단 모델이 무허가로 실제 인터넷에 자유롭게 접근하는 것을 막을 수 있는 능력을 갖추어야 한다”고 강조했습니다.
이전에 회사는 레드팀 테스트에서 대규모 AI 스마트체를 사용하여 샌드박스 제한을 돌파하도록 시도했습니다. 테스트 과정에서 여러 보안 취약점이 드러났고, 이로 인해 OpenAI는 모델 훈련 방식을 바꾸게 되었습니다.
IT之家에 따르면, 인터넷을 차단하면서도 훈련 목표를 달성하기 위해 OpenAI는 거대한 웹페이지 콘텐츠 라이브러리를 구축했습니다. 이 콘텐츠는 색인 및 캐시 처리되어 있어 모델이 상호작용할 수 있으면서도 외부 시스템에 영향을 미치는 위험은 없습니다.
인터넷이 끊긴 환경에서의 훈련이 모델이 개방된 인터넷에 자유롭게 접근할 수 있는 효과를 가져올 수 있는지는 아직 검증되지 않았습니다.