핵심 요점
- 해고된 OpenAI 안전 연구원 세 명은 기밀 정보를 공유한 혐의를 부인했습니다.
- 그들은 자신들의 해고가 AI 모델을 더 쉽게 모니터링할 수 있도록 하려던 노력과 관련이 있다고 의심하며, 이 사건이 직원들이 안전 우려를 제기하는 것을 위축시킬 수 있다고 경고하고 있습니다.
- OpenAI는 정책 위반 혐의를 이유로 들었습니다. 연구자들은 조사관들이 외부 연구자들과 나눈 자신들의 Signal 채팅에 초점을 맞췄다고 말하지만, OpenAI는 Signal이 해고 사유가 아니라고 밝혔습니다.
해당 보도는 유출 혐의로 해고된 OpenAI 안전 연구원 세 명이 자신들의 입장을 밝히는 내용을 담고 있습니다. Tomek Korbak, Mikita Balesni, Jasmine Wang은 기밀 정보를 공유한 것을 부인하고, 해고에 대한 공식적인 이유에 의문을 제기하며, 자신들이 더 투명한 AI 시스템을 옹호한 것과 연관이 있을 것으로 의심하고 있습니다.
OpenAI는 내부 조사 후 세 사람을 모두 해고했다. 혐의가 제기된 위반 사항 민감한 정보를 다루는 정책에 관한 것이었다. 이들은 모두 해고되기 전에 AI 위험에 대해 공개적으로 발언한 바 있었다.
인터뷰에서 워스트리트 저널연구진은 현재 그 설명에 대해 이의를 제기하고 있습니다. OpenAI는 Journal에 해고가 연구진이 제기한 안전 우려와는 아무런 관련이 없다고 밝혔습니다. 그러나 세 연구원은 자신들이 어떤 정보를 부주의하게 다뤘다고 주장되는지 서면으로 통보받은 적이 한 번도 없다고 말합니다. 그들은 또한 이 사건이 독립적인 안전 감사인들이 AI 기업과의 협력을 아예 꺼리게 만들 수 있다고 우려하고 있습니다.
저널의 보도는 그 대립이 무엇에서 비롯됐는지 밝혀낸다. OpenAI의 보안 팀은 이들 세 사람이 회사의 내부 모델 아키텍처에 관한 세부 정보를 외부 안전 연구자에게 공유했다고 의심하고 개인 휴대전화 잠금을 해제하라고 요구했다. 그 기기들에서 팀은 사라지는 메시지 기능이 활성화된 Signal 대화를 발견했다. 일주일 뒤, 세 사람은 모두 같은 시점에 해고되었다. OpenAI는 Signal이 승인된 커뮤니케이션 도구가 아니라고 밝혔지만 해고 사유는 아니라고 주장했다. Korbak은 사라지는 메시지 기능이 실리콘밸리 전반에서 흔히 쓰이는 보안 관행이라고 반박한다.
AI 추론 단계 모니터링을 둘러싼 논쟁
이 논쟁은 중대한 결과를 낳는 기술적 질문을 중심으로 전개된다. AI 기업들이 외부인이 자사 모델이 어떻게 사고하는지 검토하도록 허용해야 하는가? 추론 모델은 문제 해결 과정의 중간 단계를 이른바Chain of Thought라고 알려진 내부 스크래치패드에 기록할 수 있다. 사고 연쇄(chain of thought). 기업과 안전 연구자들은 모델이 어떻게 그들의 결정에 도달하는지 이해하기 위해 이러한 흔적에 의존합니다.
2025년 논문에서 Balesni, Korbak, Wang은 여러 AI 연구소의 주요 연구자들과 함께 이 기능에 대한 지속적인 접근을 촉구했습니다. 이 문제는 여름을 지나며 더 시급해졌는데, AI 기업의 직원들이 더 오래 생각하지만 중간 단계를 더 적게 기록하는모델을 논의하기 시작했기 때문입니다. Balesni는 당시 Redwood Research의 최고 과학자였던 Ryan Greenblatt의 관련 제안을 공유하며 내부적으로 반박했습니다.
Korbak 역시 Greenblatt와 정기적으로 연락을 유지했습니다. 두 사람은 고주목 사건 분석을 함께 수행하면서 Slack과 Signal로 소통했습니다. 그 사건이란 OpenAI 에이전트의 Hugging Face 공격 으로, Greenblatt는 METR에 고용되어 이에 대한 독립 조사.
를 수행했습니다. Astra에 관한 뉴스 보도가 조사의 계기가 되었습니다.
그 협력은 9월 1일 The Information이 OpenAI의 새로운 모델 Astra가 더 뛰어난 능력을 갖췄지만 추론 과정을 더 적게 드러낸다고 보도한 이후 부담이 되었다. OpenAI 최고과학자 Jakub Pachocki는 당시 X에서 이 보도를 혼란스러운 것으로 일축했는데, 그는 자신도 더 이상 감시할 수 없는 모델을 향한 업계 전반의 경쟁을 경고한바 있었다.Ad
몇 주 후, Journal에 따르면 OpenAI는 내부 유출 조사를 시작했다. Balesni에 따르면 조사관들은 Greenblatt를 유출 용의자로 지목하고 그와의 Signal 대화 내용을 보여줄 것을 요구했다. Greenblatt는 기자들에게 기밀 정보를 넘긴 것을 부인한다.
Wang은 별개의 혐의에 직면했다. OpenAI는 그녀가 한 임원의 받은 편지함에 반복적으로 접근했다고 밝혔다. 그녀는 거의 1년 전에 그 접근 권한을 해제해 달라고 요청했고, 지난달 실수로 민감한 이메일을 열었으며, 그 내용을 공유하지 않았고, 즉시 이 사건을 보고했다고 말한다. OpenAI는 접근 자체가 문제가 아니었다고 밝혔다.
Korbak에 따르면 그 여파는 이들 세 사람을 훨씬 넘어서 확산되고 있다. 동료들이 이제 외부인과 대화하거나 내부적으로 안전 우려를 제기하는 것을 두려워한다고 그는 말한다. OpenAI 이사회에 보내는 서한에서세 연구원은 외부 안전 단체들과의 더 긴밀한 협력을 촉구한다.
별도로, 최근 발표된 현장 감사는 OpenAI의 안전 관행에 대해 자체적인 의문을 제기했다. METR과 Redwood Research의 직원들은 검토 과정에서 OpenAI의 인프라에서 수많은 보안 취약점을 발견했지만, OpenAI는 최종 보고서의 거의 절반을 삭제했다.
OpenAI는 또한 인터넷 접속 없이 작동하는 새로운 보안 아키텍처에 관한 자체 보고서를 발표했으며 문제를 수정하고 10월 초에 훈련을 재개했다고 밝혔다. 이 회사는 곧 여러 새로운 외부 파트너십을 발표할 것이라고 말했다.
출처: Wall Street Journal