OpenRouter examinera toutes les demandes d’inférence concernant du matériel de violence sexuelle enfantine (CSAM) au moment où elles traversent notre service. L’examen se fait en temps réel, pendant le traitement de la demande. Les contenus identifiés comme potentiellement contenant du CSAM peuvent être conservés pour une vérification humaine, et sont rapportés ou conservés si cela est exigé par la loi.
Comment le tri des CSAM se fera-t-il ?
- Détection connue de CSAM. Le contrôle en cours inclura l’comparaison du contenu pertinent avec les hachages (empreintes numériques) de CSAM déjà identifiés.
- Revue d’un nouveau contenu CSAM suspect. Nous pourrions commencer à conserver les contenus marqués comme potentiellement CSAM pour une vérification humaine, y compris les contenus qui ne correspondent pas à un hash connu. Le marquage indique qu’il s’agit de matériel suspect ; il ne constitue pas en soi une détermination que le contenu est CSAM.
Le matching par hachage détecte des matériaux connus, tandis que les classificateurs peuvent identifier des matériaux suspects qui n’ont pas encore été ajoutés à une base de données de hachage. Le National Center for Missing & Exploited Children (NCMEC) recommande le hachage et les classificateurs d’images comme mesures de base pour la sécurité des enfants dans les services traitant d’images et de vidéos, y compris les services d’IA générative (les directives du NCMEC)).
Le tri s'applique également au trafic ZDR
Le tri des CSAM sera également appliqué aux demandes couvertes par la politique ZDR de OpenRouter.
Nous mettons à jour notre documentation et nos termes connexes pour faire apparaître clairement l’engagement de conservation propre de OpenRouter :
Pour le contenu d’inférence couvert par la politique ZDR de OpenRouter, nous ne conservons pas les prompts ou les réponses après traitement, sauf lorsque vous choisissez explicitement de les stocker ou lorsque la conservation est nécessaire pour l’examen des contenus violent et illégaux, la signalisation et la préservation juridique correspondante.
Ces dispositions relatives aux CSAM ne permettent pas la conservation générale du contenu d’inférence de ZDR à des fins non liées. Le engagement d’OpenRouter à ne pas utiliser les entrées ou sorties pour l’entraînement du modèle se poursuit (La politique de confidentialité d’OpenRouter).
Exigences de rapportage et de conservation
Les obligations légales relatives à la rapportage et à la conservation des CSAM sont établies. ZDR ne supprime pas ces obligations.
Sous la loi américaine, les prestataires couverts doivent signaler par la CyberTipline de NCMEC dès que possible, une fois qu’ils sont informés des faits ou circonstances indiquant des infractions spécifiques. Les contenus signalés et certains documents connexes doivent être conservés pendant un an après la soumission. Cette exigence s’applique aux documents signalés, et non à chaque élément marqué pour examen (18 U.S.C. § 2258A(a) et (h)).
Les politiques du fournisseur peuvent varier
Les modèles et les fournisseurs peuvent utiliser des méthodes de vérification et de conservation différentes. Certains conservent le contenu pendant une certaine période afin de réaliser des vérifications de sécurité automatisées avant que rien ne soit signalé. Ces pratiques sont distinctes de la vérification en cours de voyage effectuée par OpenRouter et sont régies par les politiques applicables du modèle et du fournisseur.
Les documents de la OpenRouter définissent les politiques de fournisseur, afin que les utilisateurs puissent comprendre les exigences qui s’appliquent à leurs demandes. Consultez ces politiques lors de l’achat d’un modèle ou d’un fournisseur, en particulier si votre organisation a des exigences spécifiques concernant la conservation des données.
Regarder vers l’avenir
L’IA ouvre de nombreuses possibilités intéressantes, et les pratiques liées aux modèles de pointe évoluent rapidement. Nous mettons à jour notre documentation et nos termes associés pour décrire le tri en cours d’opération d’OpenRouter, la possible conservation du contenu marqué, et la manière dont les politiques des fournisseurs sont représentées. Comme toujours, nous vous tiendrons informés.