OpenRouterは、サービスを通過するすべての推論要求について、児童性犯罪材料（CSAM）の有無を検査します。検査はリクエスト処理中に行われます。潜在的なCSAMと判断されたコンテンツは、人間のレビュー用に保持され、法律で要求される場合には報告や保存も行われます。
CSAMスクリーニングはどのように行われるか
- 既知のCSAM検出。運行中のスクリーニングでは、以前に特定されたCSAMのハッシュ値（デジタル指紋）と適用される内容を比較することになる。
- 新しいCSAMと疑われる内容のレビュー。既知のハッシュに合致しない内容を含む、潜在的なCSAMと判断されたコンテンツを人間のレビュー用に保管することから始めるかもしれません。フラグは疑わしい資料を示すものであり、コンテンツがCSAMであるという断定ではありません。
ハッシュマッチングは既知の資料を検出するが、分類器はまだハッシュデータベースに登録されていない疑わしい資料を特定できる。全国失踪・搾取児童センター（NCMEC）は、生成型AIサービスを含む画像や動画を扱うサービスにおいて、ハッシュ処理と画像分類器を子供の安全対策として基本的な手段と推奨している（NCMECの指導方針）。
スクリーニングはZDRトラフィックにも適用される
CSAMの検査は、OpenRouterのZero Data Retention（ZDR）ポリシーで対象となる要求にも適用されます。
OpenRouterの自社の保持義務を明確にするために、文書と関連条項を更新しています。
OpenRouterのZDRポリシーが適用される推論内容については、明示的に保存することを選択した場合や、CSAMの審査、報告、関連する法的保存のために保持が必要な場合を除き、処理後のプロンプトや応答を保持しません。
これらのCSAMに関する規定は、無関係な目的でZDRの推論内容を一般的に保持することを許可していません。モデル訓練に入力や出力を使用しないというOpenRouterの約束は続きます（OpenRouterのプライバシーポリシー）。
報告と保存に関する要件
CSAMの報告および保存に関する義務は、定められた法的義務です。ZDRはこれらの義務を解除しません。
米国法により、対象提供業者は、特定の違反行為を示す事実や状況を実際に知った後、合理的に可能な限り早くNCMECのCyberTiplineに報告しなければならない。報告された内容および特定の関連文書は、提出後1年間保存される。この要求は、審査対象とされるすべての項目に適用されるのではなく、報告された文書に適用される。18 U.S.C. § 2258A(a)および(h)
プロバイダーのポリシーは異なる場合があります
モデルラボとプロバイダーは、異なるスクリーニングおよび保持方法を使用することがあります。一部の場合、何かが警告される前に自動化された安全チェックを実行するために、一定期間内容を保持することがあります。これらの慣行はOpenRouterの運行中のスクリーニングとは別であり、適用されるモデルおよびプロバイダーのポリシーによって管理されます。
OpenRouterの文書には提供方のポリシーが記載されており、ユーザーは自身の要求に適用される要件を理解できる。モデルや提供者を選択する際には、特に組織に特定のデータ保持要件がある場合、そのポリシーを確認することが重要である。
将来を見据えて
AIは興味深い可能性を切り開いており、フロンティアモデルに関する実践方法も急速に進化しています。OpenRouterの運用中のスクリーニング、フラグ付けされたコンテンツの保持の可能性、およびプロバイダーのポリシーがどのように表現されるかを説明するため、文書や関連用語を更新しています。いつものように、私たちは皆さんに情報を提供し続けます。