IT之家 10월 9일 소식에 따르면, 기술 미디어 The Verge는 오늘(10월 9일) 블로그 글을 발표하여 Anthropic이 Claude 사용 정책을 개정하고 2026년 11월 12일부터 시행될 예정이라고 보도했습니다. “지속적이고 불필요한 학대나 잔인한 행위”를 금지하는 조항이 처음으로 포함되었습니다. 이 규칙은 사용자가 목적 없이 반복적으로 모델에 잔인한 행동을 하는 경우에 적용됩니다.
실행 메커니즘에 관해, Anthropic은 주로 대화를 종료하는 방식을 사용한다고 밝혔지만, 언제 사용자 정지 등의 추가 조치를 도입할지는 명확히 하지 않았습니다. 또한 이 조항은 일반적인 불만, 의문, 어두운 창작 주제 및 모델 테스트 및 연구에는 적용되지 않는다고 강조했습니다. IT之家는 관련 스크린샷을 다음과 같이 제공했습니다:
안트로피크는 무기 사용을 위한 소프트웨어와 구성 요소, 무장 드론 및 기타 자율 차량과 같은 행위까지도 무기 금지 규정의 범위를 확대했습니다. 회사에 따르면 Claude를 이용해 무기 제어 또는 조작 소프트웨어를 개발하려는 여러 시도가 발견되었다고 합니다.
감시 조항은 동의 없이 개인을 추적하는 것을 명확히 금지하며, 이는 실시간 추적이든 기존 데이터 분석이든 모두 해당됩니다. Claude는 법 집행 및 형사 사법 절차에서의 수사, 체포 또는 기소 대상을 결정하거나 조언하는 데 사용되어서는 안 되며, 감시 도구를 개발하거나 개선하는 데도 사용되어서는 안 됩니다.
안타르피크는 또한 AI가 손상을 초래할 수 있는 자율적인 물리 하드웨어에 연결될 경우, 유능한 운영자가 장치를 감시하고 필요할 때 작동을 중단해야 한다고 규정했다. 특정 정부 고객의 경우, 회사는 계약상 제한과 안전 조치가 충분할 때 규칙을 조정할 수 있다.