IT之家 El 13 de octubre, Anthropic informó el lunes en la hora local que ha lanzado varias nuevas medidas de protección, con el objetivo de evitar que los competidores replicen el modelo Claude AI. Estas medidas han reducido aproximadamente un 90% a un 99% la cantidad de datos robados en los ataques de distilación de modelos.
El distiling de modelos se ha convertido en un problema que preocupa especialmente a las empresas líderes de IA. Empresas como Anthropic, OpenAI y Google creen que este método permite a los competidores replicar las capacidades avanzadas de los modelos a menor costo y con mayor velocidad.
Según Anthropic, este mecanismo de protección utilizado para limitar el acceso externo al proceso de razonamiento de Claude ha reducido significativamente la actividad de extracción de información. Hoy en día, la cantidad de tokens que los atacantes pueden extraer es solo entre una décima y un uno por ciento de lo que era antes.
IT Home observó que la empresa con sede en California indicó que la nueva protección aumenta la dificultad de utilizar una red de proxies para detectar repetidamente las conexiones de razonamiento protegidas de Claude, interrumpe los intentos de extracción de información y dificulta las operaciones de destilación a gran escala.
Según Anthropic, la solidez de este sistema de seguridad “es aproximadamente comparable al sistema de protección que impide que Claude ayude a fabricar armas biológicas”, y la tasa de alertas falsas es inferior al 0.1%.
Anthropic bloqueó decenas de miles de cuentas relacionadas con actividades de destilación, y tomando como ejemplo a la startup de IA Zhipu AI, señaló que la empresa intentó extraer las capacidades del modelo desde Claude durante el desarrollo del modelo GLM-5.3. Anthropic advierte que este tipo de acciones representan riesgos para la seguridad y la seguridad nacional.