IT之家 10월 25일 소식에 따르면, 정보 유출 혐의로 해고된 OpenAI의 보안 연구원 세 명이 자신의 입장을 밝혔습니다. 토메크 코르바크, 미키타 발레스니, 자스민 왕은 기밀 정보를 유출하지 않았다고 부인하며, 자신들이 해고된 공식적인 이유에 의문을 제기하고, 이 사건이 AI 시스템의 투명성 향상을 지지해온 것과 관련이 있을 것이라고 추측했습니다.
OpenAI는 내부 조사를 통해 세 명이 민감 정보 관리 규정을 위반했다고 판단하여 그들을 해고했습니다. 해고되기 전에 이 세 명은 AI의 위험성에 관한 의견을 공개적으로 발표한 바 있습니다.
IT之家는 월스트리트 저널과의 인터뷰에서 몇몇 연구원들이 공식 발표에 반대하는 의견을 내렸다는 것을 알게 되었습니다. OpenAI는 해고 사건이 그들이 제기한 보안 우려와 관련이 없다고 밝혔습니다. 하지만 세 명의 연구원은 회사가 어떤 정보가 부적절하게 처리되었는지에 대해 문서적으로 알리지 않았다고 말했습니다. 그들은 또한 이 사건이 독립적인 보안 감사관들이 AI 기업과 협력하기를 꺼리게 될 것이라고 우려했습니다.
《월스트리트 저널》의 보도에 따르면, 이 갈등의 원인이 재구성되었다. OpenAI의 보안 팀은 세 명이 외부 보안 연구원에게 회사 내 모델 구조의 세부 정보를 누설하고 개인 휴대폰을 잠금 해제하도록 요청했다고 의심한다. 조사관들은 휴대폰에서 '읽으면 즉시 삭제' 기능이 활성화된 Signal 채팅 기록을 발견했다. 일주일 후, 세 명 모두 해고되었다. OpenAI는 Signal이 회사가 인정하는 통신 도구가 아니라고 밝혔지만, 이를 해고의 이유로는 들지 않는다고 강조했다. 코르바크는 '읽으면 즉시 삭제' 메시지가 실리콘밸리에서 일반적인 보안 관행이라고 반박했다.
논란이 되는 쟁점: AI의 추론 단계를 검토하는 것이 허용되는지 여부
이 논쟁의 핵심은 심대한 영향을 미치는 기술적 문제입니다: AI 기업이 외부 사람들이 모델의 사고 과정을 확인하도록 허용해야 하는가? 추론형 모델은 내부의 “사고 연쇄” 임시 저장 영역에 문제 해결의 중간 단계를 기록합니다. 기업과 보안 연구원들은 이러한 기록을 통해 모델이 판단을 내리는 논리를 이해합니다.
2025년의 한 논문에서 발레스니, 코르바크, 왕몰리는 여러 AI 연구소의 최고 연구자들과 함께 이 확인 가능한 능력을 지속적으로 유지할 것을 요청했다. 올 여름에는 이 문제가 더욱 긴급해졌다: 여러 AI 회사에서 새로운 모델 유형에 대한 논의가 시작되었으며, 이 모델은 사고 시간이 더 길지만 기록된 중간 단계는 적다. 발레스니는 회사 내에서 이에 반대 의견을 제시했고, 당시 레드우드 리서치의 수석 과학자인 라이언 그린블라트의 관련 제안을 전달했다.
코르바크도 그린브라트와 자주 소통을 유지하고 있습니다. 두 사람은 Slack과 Signal을 통해 협력하여, OpenAI 스마트체가 Hugging Face를 공격한 사건을 함께 분석했습니다. 그린브라트는 METR의 의뢰를 받아 이 독립적인 조사를 담당하고 있습니다.
Astra에 관한 보도가 내부 조사를 촉발했다
9월 1일, The Information은 OpenAI의 새로운 모델 Astra가 기능이 더 강력하지만 추론 과정이 더 적음을 보도했다. 이번 협력이 문제의 불씨가 되었다. 당시 OpenAI의 수석 과학자인 야쿠브 파초키는 X 플랫폼에서 이 보도의 논리가 혼란스럽다고 평가했지만, 그는 이전에도 전체 산업이 감시하기 어려운 모델을 개발하기 위해 경쟁하고 있다고 경고한 바 있었다.
《월스트리트 데일리》에 따르면, 몇 주 후 OpenAI는 내부 정보 유출 조사를 시작했다. 발레스니는 조사관들이 그린블랫트가 정보 유출의 수신자라고 판단하여 그들 간의 Signal 채팅 기록을 요청했다고 말했다. 그린블랫트는 기자들에게 기밀 정보를 전달한 것을 부인했다.
왕몰리에 대한 의혹은 별도로 조사되었다: OpenAI는 그녀가 한 고위 임원의 이메일을 여러 번 접속했다고 주장한다. 그녀의 설명에 따르면, 자신은 거의 1년 전에 해당 권한을 취소하려고 신청했으며, 지난달에는 단지 민감한 이메일 한 통을 잘못 클릭한 것뿐이었고, 내용을 전달하거나 유포하지 않았으며, 그 실수를 즉시 보고했다고 한다. OpenAI는 권한 자체가 문제가 아니라고 말한다.
코르바크는 이 사건이 그 세 사람에게 미치는 부정적인 영향이 그리 크지 않다고 생각했습니다. 그는 현재 동료들은 외부 사람들과 교류할 수 없으며, 내부에서 안전 위협을 제기하는 것도 두려워한다고 말했습니다. 세 명의 연구원은 OpenAI 이사회에 서한을 보내어 외부 보안 기관과의 협력 강화를 요청했습니다.
또 다른 최근 발표된 현장 감사 보고서도 OpenAI의 보안 프로세스에 의문을 제기했다. METR과 서스턴 연구소의 감사원들은 검토 과정에서 OpenAI 인프라에 많은 보안 취약점이 존재한다는 것을 발견했지만, OpenAI는 최종 보고서의 거의 절반에 달하는 내용을 검은색으로 처리했다.
OpenAI도 새로운 보안 아키텍처 보고서를 발표했습니다. 이 아키텍처는 운영 중 인터넷과 연결이 끊깁니다. 회사는 관련 취약점이 수정되었으며, 10월 초에 모델 훈련을 재개했다고 밝혔습니다. 또한 곧 여러 새로운 외부 협력 사항을 공개할 계획이라고 말했습니다.