OpenRouter examinará todas las solicitudes de inferencia relacionadas con material de abuso sexual infantil (CSAM) mientras pasan por nuestro servicio. El análisis se realiza en tiempo real, durante el procesamiento de la solicitud. El contenido marcado como posible CSAM puede ser conservado para revisión humana, y se generarán informes y se preservará según lo requiera la ley.
Cómo funcionará la revisión de CSAM
- Detección conocida de CSAM. La revisión en vuelo incluirá comparar el contenido aplicable con los hashs (huellas digitales) de los CSAM previamente identificados.
- Revisión de contenido nuevo sospechoso de CSAM. Podríamos comenzar a retener el contenido marcado como potencial CSAM para su revisión humana, incluyendo el contenido que no coincide con un hash conocido. Una marca indica material sospechoso; no es en sí una determinación de que el contenido sea CSAM.
El emparejamiento de hash detecta material conocido, mientras que los clasificadores pueden identificar material sospechoso que aún no se ha añadido a la base de datos de hash. El Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) recomienda el hashing y los clasificadores de imágenes como medidas básicas de seguridad infantil para los servicios que manejan imágenes y videos, incluyendo los servicios de inteligencia artificial generativa (las directrices del NCMEC)).
La selección también se aplica al tráfico de ZDR
La revisión de CSAM también se aplicará a las solicitudes cubiertas por la política Zero Data Retention (ZDR) de OpenRouter.
Estamos actualizando nuestra documentación y los términos relacionados para hacer explícito el compromiso de retención propio de OpenRouter:
Para el contenido de inferencia cubierto por la política ZDR de OpenRouter, no retenemos los prompts ni las respuestas después del procesamiento, excepto cuando usted elige explícitamente que los guardemos o cuando la retención es necesaria para la revisión de CSAM, la denuncia y la preservación legal relacionada.
Estas disposiciones sobre CSAM no autorizan la retención general de contenido de inferencia de ZDR para fines no relacionados. El compromiso de OpenRouter de no utilizar entradas o salidas para el entrenamiento del modelo continúa (Política de privacidad de OpenRouter).
Requisitos de informe y preservación
Las obligaciones de informe y preservación de CSAM son obligaciones legales establecidas. ZDR no elimina esas obligaciones.
Bajo la ley de los EE. UU., los proveedores cubiertos deben informar a la CyberTipline de NCMEC tan pronto como sea razonable después de conocer los hechos o circunstancias que indiquen infracciones aparentes específicas. Los contenidos reportados y ciertos materiales contextuales relacionados deben conservarse durante un año después de su presentación. Este requisito se aplica a los materiales reportados, y no a cada elemento marcado para revisión (18 U.S.C. § 2258A(a) y (h)).
Las políticas del proveedor pueden variar
Los modelos de laboratorio y los proveedores pueden utilizar diferentes métodos de revisión y retención. Algunos pueden retener el contenido durante un período de tiempo para ejecutar verificaciones de seguridad automáticas antes de que algo sea detectado. Estas prácticas son separadas de la revisión en vuelo de OpenRouter y están regidas por las políticas aplicables del modelo y el proveedor.
Documenta las políticas del proveedor de OpenRouter para que los usuarios puedan entender los requisitos que se aplican a sus solicitudes. Revisa esas políticas al elegir un modelo o proveedor, especialmente si su organización tiene requisitos específicos de retención de datos.
Mirando hacia el futuro
La IA está abriendo posibilidades emocionantes, y las prácticas relacionadas con los modelos fronterizos están evolucionando rápidamente. Estamos actualizando nuestra documentación y términos relacionados para describir el filtrado en vuelo de OpenRouter, la posible retención de contenido marcado y cómo se representan las políticas del proveedor. Como siempre, nos mantendremos informados.