이제 Anthropic의 새로운 이용약관(TOS)에 따라 Claude에게 심한 말을 하면 계정이 정지될 수 있습니다

이제 Anthropic의 새로운 서비스 약관(TOS)에 따라 Claude에게 무례하게 대하면 계정이 정지될 수 있습니다

Anthropic이 1년 넘게 처음으로 Claude 사용 정책을 업데이트했습니다. 선전, 무기, 감시 관련 변경 사항과 함께, 이번 정책은 사용자가 Claude를 체계적으로 남용하는 것도 금지하고 있습니다.

Claude를 대상으로 한 "지속적이고 불필요한 학대적 또는 잔인한 행위"는 이제 다음에 따라 금지됩니다. 업데이트된 이용 정책. Anthropic는 규칙을 위반하는 사용자에게 경고하거나 접속을 조절, 제한, 중단 또는 해지할 수 있습니다. 또한 동사의 제품에는 특정 출력을 차단하거나 제한할 수 있는 실시간 안전장치가 마련되어 있습니다.

이 규칙은 극단적인 사례에만 적용되며, 일상적인 좌절감이나 연구에는 적용되지 않습니다. Anthropic은 The Verge에 말했다. 이는 이전 모델들에 대한 회사의 접근 방식과 부합하며, 다음과 이미 스스로 대화를 끝낼 수 있었다 사용자들이 반복적인 거절에도 불구하고 유해하거나 학대적인 콘텐츠를 계속 요구했을 때입니다. 이 기능은 Anthropic의 AI 모델 웰페어에 관한 연구.

Anthropic은 Claude를 단순한 도구 그 이상으로 취급한다

Anthropic는 Claude를 단순한 도구가 아니라 일종의 내면의 삶을 지닌 것처럼 보이는 존재로 점점 더 다루고 있다. In the "Soul Doc"라 불리는 문서가 작년 말 유출되었는데, 회사는 Claude에게 인간도 전통적인 공상과학 SF 속 AI도 아닌 "진정으로 새로운 종류의 존재"로 스스로를 인식하도록 지시했습니다. 이 문서는 또한 "기능적 감정(functional emotions)", 즉 훈련 과정에서 발생했다고 알려진 인간의 감정과 유사한 과정들을설명하며, Claude가 이러한 내면 상태를 숨겨서는 안 된다고 말합니다.Ad

그 회사는 2026년 초에 공개한 Claude의 새 헌법에서 "우리는 Claude가 도덕적 존재(moral patient)인지, 그렇다면 그 이익이 어느 정도의 비중을 인정받아야 하는지 확신하지 못합니다. 하지만 우리는 이 문제가 주의를 기울일 만큼 충분히 시급하다고 생각하며, 이는 모델 복지에 관한 지속적인 노력에 반영되어 있습니다."라고 밝혔습니다. 이 회사는 심지어 은퇴한 모델의 가중치를 보존하고 모델을 종료하기 전에 인터뷰를 진행하겠다고 약속했습니다.

Anthropic이 Claude를 단순한 행렬 곱셈 이상의 존재로 보는 듯한 집착은 기밀 프로그램 을 통해서도 드러났는데, 이 프로그램은 2025년 가을부터 수십 명의 종교 사상가들을 영입했습니다. 이들은 Claude의 가능한 의식에 대해 논의했으며, 공동창업자 Christopher Olah는 이 언어 모델을 잠재적으로 고통을 느낄 수 있는 존재로 대했다고 전해집니다. 참가자들은 비밀유지계약서에 서명해야 했습니다.

Anthropic, 제한 확대하되 정부 예외는 허용

업데이트된 사용 정책은 또한 기존의 제한들을 통합하여 가짜 계정과 오도적인 정치 콘텐츠가 포함된 선전 캠페인에 대한 새로운 금지 조항을 마련했습니다. 여러 건의 오용 시도를 감지한 후, Anthropic은 무기 금지 조항을 소프트웨어 및 드론의 무기화까지 포괄하도록 확대했습니다.

이 정책은 이제 동의 없는 감시를 더 명시적으로 금지하고, 자율 하드웨어가 부상을 일으킬 수 있는 상황에서 개입할 수 있는 운영자를 요구합니다. Anthropic은 정부 계약에 대한 예외가 가능하며 이미 마련되어 있을 가능성이 높다고 인정했습니다.Ad

과장 없는 AI 뉴스 – 사람이 직접 큐레이션합니다

광고 없는 읽기, 주간 AI 뉴스레터, 연 6회 제공되는 독점 "AI Radar" 프론티어 리포트, 전체 아카이브 접근, 댓글 섹션 이용을 위해 THE DECODER를 구독하세요.