Anthropic dice que redujo el robo de tokens de razonamiento de Claude en hasta un 99% en la lucha contra la destilación a gran escala.

Anthropic dice que redujo el robo de tokens de razonamiento de Claude en hasta un 99% en la lucha contra la destilación a gran escala.

Anthropic está luchando contra ataques de destilación a gran escala en sus modelos Claude. En estos ataques, las empresas copian sistemáticamente las capacidades de un modelo de IA para entrenar sus propios modelos más pequeños. Anthropic afirma que sus nuevas defensas han reducido el volumen de tokens de razonamiento extraídos y los pasos internos del modelo, en un 90 a 99 por ciento. Los atacantes utilizan redes de cientos de miles de cuentas falsas para lograrlo.

Los nombres anthropic son las empresas chinas Zhipu y Moonshot como participantes. Se dice que Zhipu extrajo capacidades cibernéticas de los modelos líderes de EE. UU. para su modelo GLM-5.3, mientras que Moonshot enviaba secretamente las consultas a través de Claude. Las capacidades robadas podrían terminar en sistemas militares y de vigilancia extranjeros.

Anthropic ahora restringe el acceso a los pasos de razonamiento internos de Claude, ejecuta un clasificador que detecta intentos de extracción y bloquea automáticamente las cuentas marcadas. Decenas de miles ya han sido bloqueadas. Anthropic exhorta a otros desarrolladores de IA a adoptar protecciones similares, aunque la empresa admite que los usuarios legítimos también se ven afectados por este proceso.

Noticias de IA Sin Eufemismos – Seleccionadas por Humanos

Suscríbase a THE DECODER para leer sin anuncios, un boletín semanal sobre IA, nuestro informe exclusivo “AI Radar” seis veces al año, acceso completo al archivo y acceso a nuestra sección de comentarios.