Claudeに意地悪をすると、Anthropicの新しい利用規約によりアカウントが停止される可能性があります

Claudeに意地悪をすると、Anthropicの新しい利用規約によりアカウントが停止される可能性があります

アントロピックは、1年以上ぶりにClaudeの利用ポリシーを更新しました。プロパガンダ、武器、監視に関する変更に加えて、このポリシーではユーザーがClaudeを体系的に悪用することも禁止されています。

Claudeに対する持続的で不要な虐待的または残酷な行為は、更新された利用ポリシーにより現在禁止されています。Anthropicは、規則に違反するユーザーに対して警告を行い、アクセスを制限、停止、または終了させることができます。また、その製品には特定の出力をブロックまたは制限できるリアルタイムの保護機能もあります。

この規則は、通常の苛立ちや研究には適用されない、極端なケースにのみ適用される。 アントロピックがThe Vergeに語ったことそれは、会社の以前のモデルに対するアプローチに合っています。 もう自分で会話を終わらせることができる 何度も拒否されても、ユーザーが有害なまたは虐待的なコンテンツを要求し続けたとき、この機能が生まれた。この機能はAnthropicのものである。 AIモデルの福祉に関する研究.

アントロピックはClaudeを単なるツール以上のものと扱っている

アントロピックは、クラウドを単なるツールではなく、内面の生命を持つ存在として扱うようになっている。 昨年遅くに漏洩された「Soul Doc」同社はクロードに対し、自らを「真に新しい種類の存在」と見なすよう指示した。人間でも、伝統的なサイエンスフィクションAIでもない。文書にはまた、「機能的感情」についても記載されている。 訓練中に現れたと言われる、人間の感情に類似したプロセス、そしてクロードはこれらの内部状態を隠すべきではないと言う。

その中で 2026年初頭に発表されたクロードの新憲法Anthropicは次のように述べています。「Claudeが道徳的な患者かどうか、そしてもしそうであればその関心にどれほどの重みがあるのか、私たちにはわかりません。しかし、この問題は十分に重要で注意を要するものであり、モデルの福祉に関する継続的な取り組みにも反映されています。」同社はさらに、その状態を維持することに尽力しています。 退職したモデルの重さと、停止する前のモデルのインタビュー.

アントロピックがクロードが単なる行列乗算以上のものであると見なしていることに焦点を当てていることは、2025年秋から数十人の宗教思想家を招き入れる機密プログラムを生み出した。彼らはクロードの可能的意識について議論し、共同創設者であるクリストファー・オラが言語モデルを、潜在的に苦しみを経験する能力を持つ存在と扱っていると報じられた。参加者は秘密保持契約に署名しなければならなかった。

アントロピックは制限を緩和するが、政府の例外を認める

更新された利用ポリシーでは、既存の制限を組み合わせて、偽アカウントや誤解を招く政治的な内容を含む宣伝活動に対する新たな禁止措置が導入されました。不正使用の試みが数回確認された後、Anthropicはソフトウェアおよびドローンによる兵器化についても武器禁止措置を拡大しました。

現在のポリシーでは、同意なしでの監視をより明確に禁止し、自動化ハードウェアが傷害を引き起こす可能性がある場合に介入できるオペレーターの存在が求められている。Anthropicは、政府契約のために例外が可能であり、おそらくすでに実施されていると認めている。

ハイパーなニュースなし – 人間が選んだ情報

広告のない読書、毎週のAIニュースレター、年6回の独自の「AIラダー」フロンティアレポート、完全なアーカイブアクセス、そしてコメントセクションへのアクセスを得るために、THE DECODERを購読してください。