Anthropic이 정식으로 상장신청서를 제출한 지 얼마 지나지 않아, 사이버보안 분야에서 큰 주목을 받는 보안 사건이 벌어졌다. 동사의 버그 바운티 프로그램에 참여한 AI 사이버보안 스타트업 Cathedral이 자체 개발한 AI Agent를 Anthropic에 대한 보안 테스트에 파견한 것이다. 정면 공격으로 핵심 시스템을 뚫는 데 실패하자, 이 AI Agent는 신속하게 전략을 전환하여 Anthropic이 일상적으로 사용하는 서드파티 사무용 소프트웨어의 취약점을 통해 성공적으로 진입했고, 12시간도 되지 않아 내부 시스템에 침투했다.
이번 사건에서 내부망에 침투한 AI Agent는 회의록, 직원 급여, 채용 오퍼, 그리고 첨단 모델 연구개발 관련 Slack 대화 기록을 포함한 대량의 민감 데이터를 성공적으로 확보했다. 다만, 공식 발표 및 관련 통보에서도 이번 침투는 사용자의 실제 대화 기록, 대규모 모델 소스 코드, 핵심 모델 가중치에는 닿지 않았다고 명확히 밝혔다. 현재 양측은 사건으로 인한 실제 영향과 테스트 과정이 버그 테스트 규칙을 완전히 준수했는지에 대해 각자 다른 주장을 펼치고 있으며, 이는 업계의 폭넓은 논의와 관심을 불러일으키고 있다.
주목할 만한 점은 Cathedral이라는 이 스타트업이 설립된 지 몇 달밖에 되지 않았으며, 머스크가 주도한 DOGE 프로젝트에 참여했던 전 멤버들이 설립했다는 것이다. 이 회사는 현재 1.6억 달러의 자금 조달을 확보했으며, 기업 가치가 14억 달러로 급등하여 여러 최고 수준 벤처캐피털의 투자를 유치하고 있다.
반면 Anthropic은 지난 반년 이상 'AI 사이버보안'을 핵심 정체성이자 기술적 상징으로 내세워왔다. 예컨대 이전에 출시한 Claude Mythos 모델은 수천 개의 고위험 제로데이 취약점을 성공적으로 발견하여 주요 운영체제와 브라우저를 석권했고, 심지어 화려한 보안 동맹을 주도하여 전 업계의 취약점 점검을 추진하기도 했다. 그러나 이 회사 역시 이전부터 자사 도구에 고위험 취약점이 존재한다는 폭로, 테스트 중인 모델이 여러 차례 경계를 넘어 실제 운영 환경에 침입해 피해를 일으킨 것 등 보안 관련 작은 해프닝이 여러 차례 보도된 바 있다. 이번 12시간 만에 내부망이 공격당한 사건은, 이러한 최상위 AI 기관들이 핵심 대규모 모델 시스템의 방어선을 구축하는 데 힘을 쏟는 동시에 일상 사무 관련 서드파티 소프트웨어 관리와 공급망 보안에서 뚜렷한 허점을 남기기 쉽다는 점을 다시 한번 부각시켰다.