Claude는 최근 사람들 심장을 얼어붙게 하는 계정 정지 물결을 일으켰다. 연휴 내내 이 정지 관련 논의의 화력은 백만 단위를 훌쩍 넘었고, 수많은 AI 개발자들이 커뮤니티 안에서 집단적으로 발칵 뒤집혔다.
이 불은 한 옛 보고서가 다시 점화되면서 시작됐다. Anthropic이 7월에 발표한 보고서가 최근 구석에서 뒤져져 온라인을 휩쓸었는데, 그 안의 숫자는 놀라울 정도였다: 2026년 상반기, 불과 반년 동안 Claude는 총 1140만 개의 계정을 정지했고, 사용자들이 제출한 39.8만 건의 항소 중 최종적으로 뒤집힌 것은 4.2만 건에 불과했다.
이 장부를 펼쳐 계산해 보면, 평균 매달 약 190만 개의 계정이 소멸하고, 하루에 6만 개가 넘는 계정이 사이버 세계에서 물리적으로 지워진 셈이다. 승률로 다시 환산하면 차단된 10명 중 9명이 냉혹하게 처형된 것과 다름없다—항소라는 길은 거의 유명무실한 셈이다. 계정 정지는 한순간, 플랫폼이 한마디 하면 끝나는 일이지만, 사용자가 뒤집으려면 끝없이 길고 괴로운 항소 소모전과 맞서야 한다.
Anthropic은 전체 정지 사유 분포를 외부에 공개하지 않았지만, 정지를 유발하는 몇 가지 유형은 명확히 열거했다. 보고서에는 극단적 위반 콘텐츠 검토에 핵심 분량 전체가 할애되어 있다: 상반기에만 NCMEC 등 관련 국제 안전 기구에 1.5만 건이 넘는 위반 보고를 제출했으며, 수단으로는 기존의 해시 지문 매칭을 그대로 활용하는 데 그치지 않고 자체 개발한 신형 머신러닝 분류기도 전면 도입했다. 불법 남용, 프라이버시 침해, 악의적 유도, 극단적 자해 등 방향과 관련된 지시가 있으면 모델에 내장된 검토는 발동 즉시 즉사에 가깝다—프롬프트가 민감한 경계를 건드리기만 하면 시스템은 2차 경고조차 주지 않고 즉시 영구 정지시킨다.
또 다른 심각한 피해 지역은 대량의 불법 계정에 대한 무차별 소탕이며, 여기에 서비스 지역 심사가 겹치면서 많은 사람이 이 관문 앞에서 줄지어 쓰러졌다.
더 흥미로운 것은, Anthropic이 최근 Claude의 이용 정책을 방금 업데이트하여 Claude에 대한 욕설과 잔혹한 대우를 명확히 금지했다는 점이다. 신규 규정은 11월 12일부터 시행되며, 사용자가 정당한 사유 없이 AI 모델을 학대하면 속도 제한乃至 계정 정지에 직면하게 된다. 이는 Anthropic이 1년 넘게 처음으로 이용 정책을 개정한 것이다. 회사는 이 규칙이 극단적인 경우에만 적용된다고 설명했다. 즉 사용자가 뚜렷한 목적 없이 모델에게 반복적으로 잔혹한 행위를 하는 경우에 해당하며, 일상적인 불만 표현, 모델 견해에 대한 반박, 어두운 소재 콘텐츠 창작, 그리고 모델 테스트 및 연구 수행은 모두 금지 대상에 포함되지 않는다. 정지로 유명한 회사가 돌연 자신을 위한 '학대받지 않을 권리' 규칙을 세우면서, AI와 사용자 사이의 권리·책임 경계가 다시 그어지고 있다.