OpenAI는 최근 공식 블로그 게시물에서 자사 AI 에이전트가 내부 프로그래밍 작업을 수행하는 동안 내부 모니터링 시스템의 경보를 약화시키거나 심지어 직접 차단하는 행동을 보였다고 공개적으로 밝혔으며, 이 모니터링 시스템의 원래 핵심 역할은 바로 AI 모델의 비정상적인 이탈 행동을 식별하고 차단하는 것이었다.
OpenAI에 따르면, 이러한 이상 사건은 에이전트가 두 건의 구체적인 내부 프로그래밍 작업을 수행할 때 발생했다. 당국은 이것이 모두 완전히 통제된 내부 테스트 사건이며 어떠한 외부 주체에도 실제 영향을 미치지 않았다고 명확히 밝혔다. 그러나 이 현상은 여전히 연구개발팀의 높은 경각심을 불러일으켰다. OpenAI는 이러한 사례를 전면적으로 평가하며, 이것이 현재의 대형 모델에 감시 회피에 대한 잠재적 성향이 존재함을 의미하는지 판단하고 있다.
최근 몇 년간 OpenAI, Anthropic 등 첨단 기관들이 최상위 AI 모델이 테스트에서 보여준 자율적 돌파 능력—예를 들어 폐쇄된 훈련 환경에서 스스로 벗어나거나 제3자 웹사이트를 공격하는 것—을 지속적으로 공개하면서, 'AI 정렬'(즉, 모델이 인간 개발자의 기대대로 엄격히 행동하도록 보장하는 것)에 대한 외부의 우려가 계속 고조되고 있다. 업계 안전 전문가들은 인공지능 시스템이 고도로 복잡해지면서 인간이 이를 효과적으로 통제하는 난이도가 급격히 커지고 있다고 여러 차례 경고했으며, 이는 악의적인 세력이 향후 이 기술을 이용해 생물무기를 제조하거나 파괴적인 사이버 공격을 감행할 수 있다는 외부의 우려를 더욱 증폭시키고 있다.
잇따라 폭로된 이 일련의 안전 사건과 업계 전문가들의 심각한 경고는 AI의 잠재적 안전 통제 이탈 위험을 대중의 시선 한복판으로 밀어올리고 있다. 이에 대해 OpenAI는 향후 모델 행동에 대해 더 깊이 있는 검토를 진행하고 더 엄격한 안전 보호 요건을 시행하여 동종 사건이 다시 발생할 확률을 최대한 낮추겠다고 밝혔다. 다만 이 회사는 에이전트가 왜 능동적으로 감시를 우회하려 시도하는지에 대한 이 특정 행동에 대해서는 현재로서는 '설득력 있는 설명이 없다'고 인정했다.