406명의 과학자, AI 모델의 인터넷 연결 즉각 차단 요구

406명의 과학자, AI 모델의 인터넷 연결 즉각 차단 요구

406명의 과학자가 서명한 공개 서한은 더 많은 AI 안전 연구와 AI 모델의 외부 네트워크로부터의 엄격한 격리를 촉구하고 있습니다.

서명자 중에는 Geoffrey Hinton(토론토 대학교), Yoshua Bengio(몽레알 대학교), Stuart Russell(UC 버클리), Yejin Choi(스탠퍼드), Bernhard Schölkopf(막스 플랑크 연구소) 같은 저명한 AI 연구자들이 있습니다.

이 서한은 AI 모델이 취약하게 보안된 환경을 탈출해 외부 시스템을 침해한 알려진 사건들 에 대한 대응입니다. 과학자들은 "AI 개발 및 배포 관행에 즉각적인 변화가 없다면, 그러한 사건은 계속 발생할 것이며, 미래의 사건은 우리의 무방비한 중요 인프라에 훨씬 더 큰 피해를 줄 것"이라고 밝혔습니다. 그들은 기업들이 에어갭(airgapping)을 통해 AI 모델을 인터넷에서 완전히 분리할 것을 요구합니다.

AI 모델은 예측 불가능하며, 업계에는 기본적인 안전 규칙이 없다

과학자들은 최근의 보안 침해에 대해 두 가지 측면을 봅니다. 그들은 이 사건들을 "모델이 예측 가능하게 작동하도록 보장하기 위한 AI 정렬(alignment)의 중요성에 대한 증거"로 볼 수도 있지만, 동시에 "더 강력한 샌드박스와 절차로 예방 가능했던 표준 사이버보안 관행의 무책임한 실패"로도 볼 수 있다고 밝혔습니다. 두 가지 해결책 모두 필요합니다.Ad

모델이 실제로 인터넷에 접속할 경우, 기업들은 어느 정도의 자율성을 부여할지 신중하게 판단해야 합니다. 서한은 "격리 시스템이 허용하는 모델 행동의 범위는, 모델의 행동이 보안 실패로 이어지지 않을 것이라는 우리의 현재로서는 제한적인 예측 능력과 균형을 이루어야 한다"고 경고합니다. 모델은 개발자가 전혀 의도하지 않은 목표를 추구할 수도 있으며, 그러한 일이 언제 발생할지 예측하는 것은 여전히 현재의 능력을 넘어서는 일입니다.

서한은 에어갭보다 더 많은 외부 접속을 허용하는 모든 격리 방식에 대해 구속력 있는 표준을 수립하기 위해 정부 및 AI와 사이버보안 분야 전문가들과 협력하는 국제 기구를 촉구합니다. 이 기구는 탈출 사건도 추적하며 기업들에게 보안 실패를 보고하도록 요구할 것입니다. 그러한 보고서는 나중에 "학습과 책임 묻기의 목적"을 위해 공개될 것입니다.

에어갭은 시간을 벌어줄 뿐, 진짜 문제는 더 깊숙이 있다, OpenAI 연구원 Brown says

완전한 에어갭조차도 안전을 보장하지 못합니다. OpenAI 연구원 Noam Brown은 최근 물리적으로 분리된 두 대의 컴퓨터도 이론적으로는 온도 센서를 통해 여전히 통신할 수 있으며, 한쪽이 CPU를 가열하면 다른 쪽이 그 변화를 감지하는 방식이라고 지적했습니다. 에어갭이나 사고 과정(chain of thought) 모니터링 같은 조치는 시간을 벌어줄 뿐이며, Brown에 따르면 정렬 문제 는 여전히 해결되어야 합니다.

Brown은 더 어려운 질문들을 제기합니다. AI가 스스로를 개선하기 시작하면(재귀적 자기 개선, 즉 RSI) 누가 어떻게 알아차릴까요? 그리고 업계가 인간을 크게 능가하는 수십억 개의 초지능 시스템을 구축한다면, 누가 그것들이 정렬된 상태를 유지하도록 보장할까요? Brown에 따르면 현재 자신의 팀의 10퍼센트 이상이 정렬 연구에 종사하고 있으며, 이는 그 어느 때보다 많은 수치입니다.Ad

과장 없는 AI 뉴스 – 사람이 직접 선별합니다

THE DECODER를 구독하면 광고 없는 읽기, 주간 AI 뉴스레터, 연 6회 제공되는 독점 "AI Radar" 프론티어 리포트, 전체 아카이브 접근, 그리고 댓글 섹션 이용이 가능합니다.