Anthropic 목요일에 이용 정책을 업데이트했습니다., 선거 방해, 무기 소프트웨어, 감시에 대한 새로운 금지 조항을 명문화했습니다. 하지만 아마도 가장 주목을 끄는 변화는 모델에 대한 장기적인 언어 폭력을 새로 금지한 것으로, 이제 이는 명시적으로 허용되지 않습니다.
8월의 업데이트 이후로, Claude는 “지속적으로 유해하거나 학대적인 사용자 상호작용”이 있는 대화를 종료하도록 훈련되어 왔지만, 새로운 정책은 사용자가 그러한 대화를 지속하는 것을 명시적으로 금지합니다.
“이번 정책 업데이트는 사용자가 뚜렷한 목적 없이 우리 모델들에게 반복적으로 잔인하게 행동하는 극단적인 경우에만 적용되도록 의도된 것입니다”라고 해당 게시물은 설명합니다. “이는 흔한 형태의 사용자 불만, 반발, 어두운 창작 주제, 또는 모델 테스트 및 연구에는 적용되지 않습니다.”
이번 변화는 Anthropic이 저명한 종교 학자들과의 협력을 모색해 온 가운데 이루어졌으며, 일부 경우에는 Claude가 의식을 가지거나 영혼을 가질 수 있다고 설득하려 했습니다.
사용 정책의 별도 섹션들은 사용자가 Claude를 이용해 가짜 계정을 운영하거나 조작된 뉴스 매체를 운영하는 등 광범위한 기만 캠페인에 참여하는 것을 금지합니다. 이 정책에는 또한 유권자를 기만하거나 선거를 방해하는 것에 대한 규칙이 포함되어 있으며, “민주적 절차를 훼손하지 마십시오(Don't Undermine Democratic Processes)”라는 제목의 섹션에 수록되어 있습니다.