IT之家 10月13日の報道によると、Anthropicは現地時間の月曜日に、競合他社がClaude AIモデルを再現する能力を防ぐための新たな防御措置を導入したと発表しました。これらの措置により、モデルのディストリビューション攻撃で盗み取られたデータ量は約90％から99％減少しました。
モデルディープリンキングは、主要なAI企業が重点的に懸念している問題となっている。Anthropic、OpenAI、Googleなどの企業は、この手法により競合企業がより低コストで、より速くモデルの先進的な能力を再現できると考えている。
アントロピックによると、外部からClaudeの推論プロセスを取得する行為を制限するこの保護メカニズムにより、情報抽出行為が大幅に減少した。現在、「蒸留攻撃者が抽出できる推論トークン数は、以前の10分の1から100分の1にまで減少している」と言われている。
IT之家が注目したところによると、カリフォルニアに本社を置くこの企業は、新しい防護措置により、エージェントネットワークを利用して Claudeの保護された推論経路を繰り返し検索する難易度が高くなり、情報抽出の試みが阻止され、大規模なディストリューニング行為が妨げられると述べています。
アントロピックによると、このセキュリティシステムの安定性は「Claudeが生物兵器の製造を助けるのを防ぐ防御システムにほぼ相当」であり、誤報率は0.1％未満だという。
アントロピックは、ディストルイング活動に関連する数万のアカウントをブロックしました。AIスタートアップのZhipu AIを例に挙げて、同社がGLM-5.3モデルを開発する過程で、Claudeからディストルイングによってモデルの能力を抽出しようと試みたと述べています。アントロピックは、このような行為が安全と国家安全のリスクをもたらすと警告しています。