IT之家 10월 13일 소식에 따르면, Anthropic은 현지 시간 월요일에 경쟁자들이 Claude AI 모델을 복제하는 능력을 방지하기 위한 여러 새로운 보호 조치를 도입했다고 발표했습니다. 이러한 조치들로 인해 모델 디스터립션 공격에서 도난당한 데이터의 양이 약 90%에서 99%까지 줄어들었습니다.
모델 디스터블링은 선도적인 AI 기업들이 중점적으로 우려하는 문제가 되었다. Anthropic, OpenAI, 구글과 같은 기업들은 이러한 방식을 통해 경쟁자들이 더 낮은 비용과 더 빠른 속도로 모델의 최첨단 능력을 복제할 수 있다고 생각한다.
Anthropic은 외부에서 Claude의 추론 과정을 알 수 없도록 하는 이 보호 메커니즘이 정보 추출 행위를 크게 줄였다고 밝혔습니다. 현재 “디스터미네이션 공격자가 추출할 수 있는 추론 토큰의 수는 이전의 10분의 1에서 100분의 1에 불과합니다.”
IT之家는 캘리포니아에 본사를 둔 이 기업이 새로운 보호 장치가 프록시 네트워크를 이용한 Claude의 보호된 추론 경로 탐색을 어렵게 만들고, 정보 추출 시도를 차단하며, 대규모 디프라임 작업을 방해한다고 밝혔다는 것을 알게 되었습니다.
안트로픽은 이 보안 시스템의 안정성이 “클로드가 생물학적 무기 제작을 도와주는 것을 막는 보호 체계와 거의 같다”고 말했으며, 오탐률은 0.1% 미만입니다.
안트로픽은 증류 활동과 관련된 수만 개의 계정을 금지했으며, AI 스타트업인 지파이 AI를 예로 들어, 이 회사가 GLM-5.3 모델을 개발하는 과정에서 Claude를 이용해 모델 능력을 추출하려 했다고 밝혔습니다. 안트로픽은 이러한 행위가 보안 및 국가 안보 위험을 초래할 수 있다고 경고했습니다.