Anthropic indique avoir réduit de jusqu’à 99 % le vol des tokens de raisonnement de Claude dans la lutte contre la distillation à grande…

Anthropic indique avoir réduit de jusqu’à 99 % le vol des tokens de raisonnement de Claude dans la lutte contre la distillation à grande échelle.

Anthropic lutte contre les attaques de distillation à grande échelle sur ses modèles Claude. Dans ces attaques, les entreprises copient systématiquement les capacités d’un modèle IA pour entraîner leurs propres modèles plus petits. Anthropic indique que ses nouvelles défenses ont réduit le volume des tokens de raisonnement extraits et les étapes internes du modèle, par 90 à 99 pour cent. Les attaquants utilisent des réseaux de centaines de milliers de comptes fictifs pour réussir.

Les noms anthropiques incluent les entreprises chinoises Zhipu et Moonshot en tant que participants. On dit que Zhipu aurait transféré des capacités numériques provenant de modèles américains leaders. GLM-5.3 modèle, tandis que Moonshot transmettait secrètement les requêtes via Claude. Les capacités volées pourraient se retrouver dans les systèmes militaires et de surveillance étrangers.

Anthropic limite maintenant l’accès aux étapes de raisonnement internes de Claude, utilise un classificateur qui détecte les tentatives d’extraction, et bannit automatiquement les comptes marqués. Des dizaines de milliers de comptes ont déjà été bannis. Anthropic demande aux autres développeurs d’IA d’adopter des protections similaires, bien que l’entreprise admette que les utilisateurs légitimes sont également impliqués dans ce processus.

Nouvelles sur l’IA sans hype – sélectionnées par des humains

Abonnez-vous à THE DECODER pour une lecture sans publicités, un bulletin informel sur l’IA semestriel, notre rapport exclusif « AI Radar » six fois par an, un accès complet à l’archive, et un accès à notre section de commentaires.