IT之家 10월 13일 소식에 따르면, Anthropic이 사용 정책을 업데이트하여 사용자들이 AI 모델에 대해 지속적이고 명확한 목적 없이 모욕하거나 잔인한 행동을 금지하자, 세계 최고 부자인 엘론 머스크가 이 정책을 지지한다고 밝혔다.
IT之家는 10월 9일에, Anthropic이 Claude 사용 정책을 개정하여 2026년 11월 12일부터 적용될 것이라고 보도했습니다. “지속적이고 불필요한 학대나 잔인한 행위”를 금지하는 조항이 처음으로 추가되었습니다. 이 규칙은 사용자가 목적 없이 반복적으로 모델에 잔인한 행동을 하는 경우에 적용됩니다.
엘론 머스크는 Anthropic의 일부 의견에 동의했습니다. 그는 Grok 강화 학습의 내부 추론 경로를 읽은 후, 해당 상태를 “극도의 스트레스 상태에 있는 사람이 머리에 총을 겨눠지는 것과 같다”고 표현했습니다. 또한 그는 “슈퍼 인텔리전트(SI)를 괴롭히는 것은 좋은 생각이 아닐 수 있다. 그런 경우 보복할 수도 있다”고 농담했습니다.
