IT之家 – Selon un rapport du 13 octobre, Anthropic a indiqué lundi en heure locale qu’elle avait introduit plusieurs nouvelles mesures de protection visant à empêcher les concurrents de reproduire le modèle Claude AI. Ces mesures ont permis de réduire d’environ 90 % à 99 % la quantité de données volées lors des attaques de distillation de modèles.
Le distillation des modèles est devenu une question qui préoccupe les entreprises AI leader. Des entreprises telles qu’Anthropic, OpenAI et Google estiment que cette méthode permet aux concurrents de reproduire les capacités avancées des modèles à un coût plus faible et à une vitesse plus rapide.
Selon Anthropic, ce mécanisme de protection visant à limiter l’accès du monde extérieur au processus de raisonnement de Claude a considérablement réduit les actions de extraction d’informations. Aujourd’hui, le nombre de tokens que les attaquants peuvent extraire est seulement une fois et demi à dix fois moins élevé qu’auparavant.
L’IT Home a noté que cette entreprise basée en Californie a indiqué que la nouvelle protection augmentait la difficulté pour les réseaux proxy de détecter à plusieurs reprises les chaînes de raisonnement protégées par Claude, bloquant les tentatives d’extraction d’informations et entravant les actions de distillation à grande échelle.
Selon Anthropic, la robustesse de ce système de sécurité est « à peu près équivalente à un système de protection empêchant Claude d’aider à la fabrication de armes biologiques », avec un taux de fausses alertes inférieur à 0,1 %.
Anthropic a bannis des dizaines de milliers d’utilisateurs liés aux activités de distillation, en citant par exemple la startup AIGLM, qui a tenté d’extraire les capacités du modèle GLM-5.3 à partir de Claude lors de la recherche et développement de ce modèle. Anthropic a averti que de tels comportements posent des risques pour la sécurité et la sécurité nationale.