アントロピックは、工業規模の蒸留に対する対策で、クロードの推論トークン窃盗を99％まで削減したと発表している

アントロピックは、工業規模の蒸留に対する対策で、クロードの推論トークン窃盗を99％まで削減したと発表している

Anthropicは、自身のClaudeモデルに対する大規模な蒸留攻撃と戦っている。このような攻撃では、企業が体系的にAIモデルの能力をコピーし、自身のより小さなモデルを訓練する。Anthropicは、新しい防御策により、抽出される推論トークンの量やモデルの内部思考プロセスが90～99％減少したと述べている。攻撃者は数十万の偽アカウントネットワークを利用してこれを実行する。

アントロピック名の中国企業、ジプーとムーンショットが参加者である。ジプーは、米国の先導的なモデルからサイバー機能を盗用し、そのGLM-5.3モデルを作成したとされる。一方、ムーンショットは秘密裏にClaudeを通じてクエリを処理していた。盗まれた機能は、外国の軍事や監視システムに流れ込む可能性がある。

アントロピックは今、Claudeの内部推理ステップへのアクセスを制限し、抽出の試みを検出するクラスターを実行し、フラグ付けされたアカウントを自動的に禁止している。既に数万件のアカウントが禁止されている。アントロピックは他のAI開発者にも同様の保護策を採用するよう呼びかけているが、同社は正当なユーザーもこのプロセスに巻き込まれると認めている。

アイアイニュース 大げさなものはない – 人間が選んだ内容

広告のない読書、毎週のAIニュースレター、年に6回の独占「AIラドル」フロンティアレポート、完全なアーカイブアクセス、コメントセクションへのアクセスなどができるTHE DECODERを購読してください。