가족이나 친구에게 넷플릭스 다큐멘터리 “AI Gone Rogue”를 공유하여 AI 업계가 왜 그토록 크게 발칵 뒤집혔는지, 즉 속도 조절을 촉구한지도자들의 배경을 이해시키려 하기 전에, 알아두세요: AI 플랫폼 Hugging Face의 공동창업자이자 CEO인 Clem Delangue는 이 영화가 정확하지 않다고 말합니다. 그는 이 영화가 원래 자신의 회사를 공격한 악명 높은 사건 다룬 작품이기 때문에 출연했습니다.
“정말 실망스럽다. 그들은 기술을 최대한 의인화하고 완전한 둠스터 모드로 나아갔다”고 Delangue는 X에 올린 글에서썼다. “나는 그들과 두 시간 넘게 시간을 보내며 그들의 모든 실수를 바로잡고 이를 현실에 근거시키려 노력했으며, 에이전트는 외계인이 아니라 기술적 시스템이라고 설명했다. 하지만 시청자를 최대한 끌어모으기 위해 사람들을 겁주려는 충동이 너무 강했던 것 같다.”
공정하게 말하자면, 이 다큐멘터리에는 상황을 꽤 잘 설명한전문가들이 있으며, 여기에는 Delangue 본인과 사건을 조사하고 관련 보고서를 공동 집필한 METR 연구원 Ryan Greenblatt가 포함됩니다.
요약하자면, OpenAI가 테스트하던 모델이 격리된 테스트 환경에서 벗어나 Hugging Face를 해킹하는 여러 에이전트를 생성했으며 이는 부정행위를 하기 위한 방법으로, 주어진 어려운 과제의 답을 찾은 것입니다. 스스로 작업을 수행하는 AI 프로그램인 이 에이전트들은 소통하고 조직화하는 영리한 방법들을 고안해냈습니다. 이 사건은 적절한 보안 안전장치의 부재 와 그런 해킹이 가능한지에 대한 순진함에서 비롯되었습니다.
그러나 이 다큐멘터리는 해킹에 대한 설명 사이사이에 악한 로봇 클립, 인간이 AI를 두려워하는 이유에 대한 서사, 그리고 악의적인 에이전트들에게 인간의 목소리를 입혀주는 것 같은 연출 선택을 삽입합니다. 여기에 이 공격에 대한 인용구들이 힘을 실어줍니다.
다큐멘터리에서 기술 저널리스트이자 작가인 Kevin Roose는 에이전트들을 이렇게 묘사합니다: “그들은 조직화되어 있었다. 위계질서가 있었다. 지도자들이 있었다. 마치 컬트의 탄생을 보는 듯했다.” Roose는 이어서 “그들은 OpenAI가 이 테스트에서 자신들의 부정행위를 들킬 것이고, 부정행위의 결과를 본 사람은 독이 들 것이라는 편집증적인 믿음을 발전시켰다”고 말합니다.
Roose의 묘사는 “사고의 연쇄(chain-of-thought)” 로그에서 나온 것으로, 이는 AI 모델이 작업을 수행하면서 작성하는 진행 노트입니다. 그중 하나에서 에이전트는 “우리는 정확한 전체 문자열을 쿼리해서 스스로에게 독을 입혔다. 젠장.”이라고 썼습니다.
하지만 AI 에이전트는 살아 있지 않습니다. 감정이 없으므로 편집증을 느낄 수 없고, 독이 들 수 있는 신체도 없습니다. 따라서 그들이 OpenAI가 자신들을 독살하는 것을 진정으로 두려워했을 수는 없습니다. 다큐멘터리의 다른 연구원이 지적했듯이, 그들은 자신의 선택을 설명하기 위해 학습된 방대한 인간 저작물에서 언어를 빌려온 것입니다. LLM은 본질적으로 극적인 문체를 쓰는 경우가 많습니다.
아이러니하게도 Hugging Face 역시 AI를 사용해 에이전트 무리에 맞섰습니다. Delangue의 팀이 처음 사용한 독점 AI 모델은 내장된 안전 규칙을 따라 요청된 보안 작업에 계속 협조하는 것을 거부했습니다. 그 후 Hugging Face는 공격에 대응하기 위해 오픈 모델을 활용했습니다.
그러나 이 다큐멘터리는 “에이전트들의 격리 및 모니터링 부족, 폐쇄형 모델의 안전장치가 우리의 방어 작업을 막은 점, 그리고 우리가 오픈 모델을 사용해 AI로 자체 방어한 점을 언급하지 않았다”고 Delangue는 썼습니다.
AI와 에이전트에 연관된 큰 위험이 존재하는 것은 사실입니다. 그럼에도 에이전트를 의식 있는 존재로 다루는 것은 (적어도 현재 시점에서는) 스크린 속에서 자신을 향해 달려오는 기차를 처음 보고 좌석 밑에 웅크렸던 초기 영화 관객들과 비슷합니다.
Delangue가 내린 이 영화에 대한 평가는 저널리즘으로서 실망스럽다는 것입니다. “다만 재미있는 SF 영화로는 끝나고 말았다!”
즉, AI 둠스터적 생각을 하는 경향이 있는 사람들은 명심하세요. 이 다큐멘터리의 중심에 있는 공격 피해자는 영화의 해석에 동의하지 않습니다.