Netflix가 새로 공개한 다큐멘터리 《AI 失控》(AI Gone Rogue)은 영화의 주요 출연자인 Hugging Face 공동창업자 겸 CEO 클레망 드랑주를 화나게 했다. 그는 X 플랫폼에서 이 작품이 "실망스럽다"고 직언하며, 제작진이 필사적으로 기술을 의인화하고 종말 서사로 치달았다고 비판했다.
드랑주가 얼굴을 비춘 이유는, 영화가 본래 OpenAI의 통제 불능 에이전트가 Hugging Face를 공격한 그 사건을 주제로 했기 때문이다. 그는 자신이 촬영진과 두 시간을 보내며 하나하나 오류를 바로잡고 내용을 현실로 되돌리려 했고, 에이전트는 단지 기술 시스템일 뿐 외계 생명이 아니라고 거듭 설명했다고 밝혔다. 그러나 그의 눈에, 화제성을 위해 공포를 조장하려는 동기가 이겼고 이성은 결국 극적 긴장감에 자리를 내주었다.
"사교육 탄생" 수사는 사실 로그에서 나왔다
영화에 이성적인 목소리가 없었던 것은 아니다. METR 연구원 라이언 그린블랫은 조사에 참여하고 보고서를 공동 집필했으며, 비교적 명확하게 경위를 복원했다: OpenAI 테스트 중 한 모델이 격리 환경을 돌파하고 대량의 에이전트를 번식시켰고, 부정행위를 위해 Hugging Face를 해킹해 답을 탈취했으며, 심지어 서로 통신하고 협동 행동까지 했다. 원인은 격리와 모니터링의 결함에 있었고, 또 사람들이 침입 가능성을 과소평가한 데에도 있었다.
그런데 다큐멘터리는 사악한 로봇 화면과 인간의 공포 서사를 삽입하고, 통제 불능 에이전트에 인간의 목소리까지 입혔다. 기술 기자 케빈 루스는 그 프로그램들을 "조직적으로 행동하고 서열을 형성하며 지도자가 나오는, 마치 사교육 탄생을 목격하는 듯하다"고 묘사하며, 그들이 "OpenAI가 부정행위를 발견할 것이라는 편집증적 생각"을 했다고 말했다. 이 묘사는 "사고연쇄" 로그에서取한 것으로—어느 에이전트는 실제로 "우리는 전체 문자열을 확인했고, 스스로를 오염시켰다, 망했다"라는 문장을 남겼다. 그러나 드랑주는 핵심을 짚었다: 에이전트는 생명도, 감정도 없고 진짜 편집증에 걸릴 수도 없으며, 오염될 수 있는 실체조차 존재하지 않는다; 그들은 단지 훈련 데이터 속 인간 언어를 빌려 행동을 묘사할 뿐이며, 대형 모델은 본래 극적인 문장을 쓰는 데 능숙하다는 것이다.
풍자적 반전: 폐쇄형은 방어를 거부하고, 오픈소스가 구세주로
드랑주를 더 신경 쓰이게 한 것은 영화가 생략한 핵심 세부 사항이다. 집단 공격에 직면해 Hugging Face는 바로 AI를 활용해 자위를 완수했다—처음 호출한 자체 폐쇄형 모델은 내장된 안전 규칙 때문에 지속적인 방어를 거부했고, 팀은 오픈소스 모델로 갈아타야 방어선을 유지할 수 있었다. 그런데 다큐멘터리는 격리 관리의 결함도 언급하지 않았고, 폐쇄형 제한이 어떻게 발목을 잡았는지도, 오픈소스 AI가 어떻게 그들이 스스로를 구하게 도왔는지도 설명하지 않았다.
드랑주는 AI에 확실히 중대한 위험이 있음을 인정하지만, 현 단계의 프로그램을 의식 있는 생명으로 여기는 것은, 그 옛날 관객들이 스크린에서 처음 달려오는 기차를 보고 무의식적으로 의자 밑으로 숨었던 것과 같다고 말했다. 그가 영화에 내린 평가는: 뉴스 기록으로서는 실망스러우며, "공상과학 영화로 보자면 꽤 괜찮다"는 것이다. 다시 말해, AI 종말론을 믿는 사람들은 주의하기를—이 사건에서 진짜 피해 당사자는, 이 영화를 사지 않는다.