IT지가 10월 13일 소식, Anthropic는 현지 시간 월요일에 자사 실험에 따르면 몇 달 후 소형 AI 모델이 스마트 오븐, 잡 브랜드안드로이드TV 셋톱박스 등 상용 사물인터넷(IoT) 기기에서 자기복제 능력을 갖출 수 있다고 밝혔다.
실험에서 Anthropic는 AI 모델이 보안 취약점이 있는 기기를 찾아 자신을 기기 안에 복제하고, 인간의 개입 없이 지속적으로 확산할 수 있는지를 연구했다.
연구 결과, 파라미터 수 300억 이하의 소형 모델은 자기복제 과정의 여러 단계를 수행할 수 있지만, 처음부터 끝까지의 전체 경로를 독립적으로 완주하기는 어려운 것으로 나타났다.
일부 보안 검증 단계를 제거한 단순화된 테스트 환경에서 Anthropic는 GLM-5.2 및 더 강한 성능의 모델이 엔드투엔드의 완전한 자기복제를 달성할 수 있음을 발견했다.
Anthropic는 이런 자기복제 가능 모델은 통일된 마스터 스위치가 존재하지 않아 종료시키기가 매우 어렵다고 경고했다. 또한 전통적인 비(非)AI 악성 소프트웨어와 달리 낯선 기기를 스스로 이해할 수 있으며, 심지어 데이터센터 프로세서를 겨냥한 침투도 가능하다고 밝혔다.
이번 연구는 안드로이드 TV, 스마트 가전 등 네트워크에 연결된 IoT 기기를 중점적으로 선정했는데, 이는 이런 기기들이 대체로 보안 방어가 취약하기 때문이다.
IT지가는 이 AI 대기업이 추가로 경고한 사항도 주목했다: 소형 모델이 과거의 속도대로 계속 반복 개선된다면 올해 말 이전에 자율 복제가 가능해질 수 있으며, 그 뒤를 이어 모델 가중치에 기반한 소형 복제체도 등장하게 될 것이라는 것이다.
Anthropic는 이런 자율 AI 시스템의 복제 속도는 대체로 느릴 가능성이 높으며, 광범위하게 존재하고 보안 방어가 약한 대량의 연산 자원에 의존하게 될 것이라고 밝혔다. 보고서는 또한 시스템 방어를 강화해 이런 AI 에이전트의 확산·전파 난이도를 높여야 한다고 제안했다.