有名な人工知能企業であるAnthropicは、最近自社のAIアシスタントClaudeの利用規約を全面的に改訂しました。新しい規定は2026年11月12日に正式に施行されます。この改訂で最も注目すべき変更点の一つは、条項に「継続的かつ不必要な虐待や残酷な行為の禁止」という明確な制限を初めて盛り込んだことです。
公式の説明によると、この規則は、目的が明確でない状態でモデルに過度な扱いを繰り返すユーザーを対象としている。具体的な実施方法については、Anthropicは現在、対話を終了させることを主とするが、今後ユーザーのアカウントを禁止するなどのさらなる罰則を導入するかどうかは明らかではない。同時に、この条項は、日常の不満や疑問、暗いテーマを含む文学創作、そして適切なモデルセキュリティテストや研究には適用されないと特に強調している。
人間とコンピュータのインタラクションの行動を規範化するだけでなく、Anthropicは多くの核心分野における禁止事項を拡大し、詳細化しました。
武器禁止令の強化：武器に関連する禁止命令の適用範囲がさらに拡大され、武器の正常な運用を支えるソフトウェアやコンポーネント、武装ドローンやその他の自動運転車両の開発行為も明確に含まれるようになりました。Anthropicは、以前にClaudeを利用して武器の制御・指示用ソフトウェアを開発しようとする違反試みが複数発生したことを明らかにしました。
強化監視制限：監視条項において、同意なく個人を追跡する行為を明確に禁止し、リアルタイムの追跡や既存データの分析も禁止範囲に含まれる。同時に、Claudeを法執行や刑事司法手続きにおける調査、逮捕、起訴対象の決定や提案に使用すること、また任意の監視ツールの構築や改善に使用することを厳しく禁じる。
物理ハードウェアのセキュリティ：AIが外部に損害を与える可能性のある自動化された物理ハードウェアに接続される場合、資格を持った操作員が現場で監視を行い、必要な時には装置の運用を即時に停止できることが定められている。しかし、特定の政府顧客に対しては、契約上の制限やセキュリティ対策が十分である場合に、関連規則を柔軟に調整することがアントロピックによって述べられている。