Anthropicは 木曜日に利用規約を更新し、選挙介入、兵器ソフトウェア、監視に関する新たな禁止事項を明文化した。しかし、おそらく最も注目を集めた変更は、モデルへの長時間にわたる口頭での虐待を禁じる新たな禁止事項で、これが現在明示的に禁止されている。
8月の更新以降、Claudeは「執拗に有害または虐待的なユーザーとのやり取り」の会話を終了するよう訓練されているが、新ポリシーでは、ユーザーがそのような会話を続けることを明示的に禁止している。
「今回のポリシー更新は、ユーザーが明確な目的もなく我々のモデルに対して繰り返し残酷な行動をとるという極端なケースにのみ適用されることを意図している」と投稿は説明している。「ユーザーの一般的な不満、反論、ダークな創作的テーマ、モデルのテストや研究には適用されない。」
この変更は、Anthropicが 著名な宗教学者との協力 を模索してきた後に行われた。場合によっては、Claudeが意識を持つ、あるいは魂を持つ可能性があると彼らを説得しようとしてきたという。
利用規約の別のセクションでは、Claudeを使って偽アカウントや捏造されたニュースメディアを運営するなど、広範な欺瞞的キャンペーンへの関与をユーザーに禁じている。ポリシーにはまた、有権者を欺いたり選挙を妨害したりすることを禁じるルールも含まれており、「民主的プロセスを損なわないこと」と題されたセクションにまとめられている。