스마트 냉장고, 오븐, 청소기, 잔디 깎는 기계, 보안 카메라, TV 등 무수한 스마트 기기들이 인터넷을 장악하려 공모하고 있을까? 아니다. 하지만 이들 기기들은 곧 기기에서 기기로 퍼져나가 통제가 놀랍도록 어려운 것으로 입증될 수 있는 자가 복제 AI 모델의 무자비한 숙주가 될지도 모른다.
가전제품 전반에 걸쳐 모델이 통제 불가능하게 퍼져나갈 가능성은, 누구에게 묻느냐에 따라 임박한 사이버보안 위협이거나 AI 기업들이 퍼뜨리는 파멸론적 과장의 또 다른 사례인, 불안한 AI 웜의 세계에 잘 오셨습니다. 이번 주에 발표된 블로그 게시물에서Anthropic은 소형 AI 모델이 그러한 능력을 갖추기까지 “몇 달 남지 않았다”고 경고했다. 이 회사의 실험은 그 주장을 뒷받침하는 일부 증거를 제시하지만, 연구자들이 입증한 것과 그들이 예언하는 다가오는 위협 사이에는 거대한 격차가 남아 있다. 그럼에도 불구하고 The Verge 와 이야기를 나눈 전문가들은 컴퓨터 웜과 자가 복제 AI에 대한 두려움이 새로운 것이 아니지만, 최근의 발전이 이러한 경고를 진지하게 받아들일 좋은 이유가 있다고 말했다.
자가 복제 기계는 오랫동안 AI 안전 연구자들을 괴롭혀 왔다. 이는 인간의 통제를 벗어나 퍼져나가, 종료하는 것이 어렵거나 불가능할 수도 있는 시스템의 가능성을 제기한다. 많은 AI 발전에 대한 두려움과 마찬가지로, 관심은 대체로 OpenAI의 Astra나 Anthropic의 Mythos 같은 점점 더 강력해지는 프론티어 모델에 집중되어 왔다. 그러나 핵심적인 제한 요소는 크기다. 이 모델들은 거대하다. 잠재적으로 수조 개의 매개변수 — 학습 과정에서 배워진 값들 — 를 담고 있는 프론티어 모델은 막대한 컴퓨팅 자원을 필요로 하기 때문에 대부분 데이터 센터에만 머물러 있으며, 그곳에서는 더 쉽게 모니터링하고 원칙적으로 전원을 끌 수 있다.
그러나 더 작은 모델은 다른 문제를 제기한다. 이들은 빠르게 발전하고 있고, 소비자급 하드웨어에서 실행될 수 있으며, 종종 무료로 다운로드할 수 있다. Anthropic의 연구자들은 하나의 모델이 더 작고 덜 강력한 기기들의 네트워크를 가로질러 실행될 수 있는지 알고 싶어 했다. 그들은 260억 개의 매개변수를 가진 Google의 Gemma 4 모델을, 단독으로는 어느 하나도 실행할 만큼 충분히 강력하지 않은 15대의 Android 스마트 TV 박스에 분산 배치하는 데 성공했다. 매우 느리긴 했지만 작동했다.
관련 기사
모델이 가정용 기기들에 걸쳐 실행될 수 있음을 보여준 후, 연구자들은 그러한 환경에서 AI가 자가 복제에 필요한 단계들을 수행할 수 있는지 알아보고자 했다. 그들은 Android 기기처럼 작동하도록 설계된 컴퓨터 시뮬레이션 네트워크를 구축한 뒤, AI 기반 “웜” — 자동으로 복제되어 네트워크를 통해 퍼져나가는 맬웨어의 일종 — 을 풀어 새로운 기기를 찾고, 그 기기들에 AI 모델을 복사하고, 각 기기에서 모델을 실행하는 임무를 부여했다. 주목할 점은 전파되는 모델 — Meta의 80억 매개변수 Llama 3.1-8B — 이 공격을 조율하는 모델과는 달랐고 훨씬 작았다는 것이다.
테스트된 모델 중 중국 Z.ai의 GLM-5.2라는 가장 정교한 모델만이 전체 네트워크에 확산하는 데 성공했으며, 더 작은 모델들은 개별 단계를 수행하는 데는 성공했습니다. Anthropic 연구진은 개선 속도를 바탕으로 더 작은 모델들이 올해 말까지 GLM-5.2의 능력에 도달할 수 있을 것으로 예측합니다.
“우리의 실험을 넘어서는 예측으로서, 우리는 인간의 통제하에 있지 않은 일부를 포함하여 모든 종류의 하드웨어에서 실행되는 에이전트들이 넘쳐나는 미래를 예상합니다”라고 연구자들은 썼다. 그들은 아직 “완전한 무법 복제체”를 입증하지 못했으며, 그것이 어떤 모습일지도 모른다는 점을 인정했다(그들은 “느리고 분산된 ‘디지털 점균류’”나 “과실파리 무리”를 제안했다). 하지만 이들의 연구 결과는 “AI 웜의 생명의 징후”를 보여준다며, 복제 시스템이 퍼져나가는 데 사용할 수 있는 수많은 기기들에 대해 더 강력한 보안을 촉구했다.
“우리는 이런 복제체가 확산되기 어렵도록 시스템을 강화하는 것을 목표로 삼아야 하지만, 동시에 그것들이 계속 존재하는 세상에 대비해야 합니다.”라고 그들은 썼다. Anthropic은 이번 테스트에 자사 모델을 사용하지 않았으며 ▶ 반복해서 자사 AI 모델의 개방형 대안들이 “더 큰 위험폐쇄형 시스템보다”.
이번 경고는 익숙한 홍보 논란이라는 비난을 불러일으켰다 과대 홍보 및 AI 퇴망주의, 다음의 독자들로부터 온 것을 포함하여 The Verge의 이전 보도. 결국 값싼 TV 박스 여러 대에서 AI가 느리게 작동하는 것을 보여주는 것과 가정용 기기를 집어삼키는 자기 복제 AI 웜 사이에는 상당한 간극이 있습니다. 하지만 기업의 동기를 따져보는 것이 물론 가치 있는 일이기는 하지만, 의도적인 공포 조성 주장은 입증하기 어렵습니다. 특히 Anthropic은 오랫동안 AI 안전성에 대한 우려를 제기해 왔습니다. 또한 자기 복제 AI의 위협을 조사하거나 연결된 기기 전반에 걸친 더 나은 보안을 촉구하는 것은 Anthropic만이 아닙니다.
올해 초, 캘리포니아에 기반을 둔 AI 안전 연구 기관인 Palisade Research는 입증했습니다 "AI 모델이 다른 기계에 자율적으로 자신을 복제할 수 있다는 점입니다. "여기서 새로운 점은 이 모델들이 자가 복제가 가능한 것으로 입증된 이전 모델들에 비해 파라미터 수 기준으로 훨씬 작았다는 것입니다"라고 Palisade의 집행디렉터 Jeffrey Ladish가 말했습니다. The Verge. Anthropic의 연구는 AI가 여러 대의 저전력 기기에서 실행될 수 있음을 보여줌으로써 한 걸음 더 나아갔습니다. "이것은 대형 모델에서도 마찬가지일 것입니다"라고 Ladish는 말하며, 최전선(frontier) 모델조차도 언젠가 MacBook에 탑재된 것과 같은 소비자용 칩의 대규모 네트워크에서 실행될 수 있을 것이라고 예측했습니다.
“선행 연구들은 이미 AI 기반 컴퓨터 웜의 위협이 현실적임을 입증한 바 있습니다.”
컴퓨터 웜 새로운 것이 아닙니다 어느 쪽이든 마찬가지입니다. 이들은 수십 년 동안 컴퓨터에 감염되어 왔습니다. 하지만 AI는 이들을 더 똑똑하고, 더 적응력 있게, 그리고 어떤 장애물도 대처할 수 있도록 더 잘 무장하게 만들 수 있습니다. Ladish는 더 작은 모델조차 사이버 공격을 자율적으로 수행하는 능력이 향상되고 있다고 지적했습니다. 토론토 대학교(University of Toronto) 교수 Nicolas Papernot은 연구한 그들에게, 말했다 The Verge.
종합해 보면, Anthropic이 시연한 능력들은 사이버 공격의 표적으로 삼을 가치가 있는 기기의 범위를 획기적으로 넓힐 수 있다. Papernot은 "인간 공격자의 자원과 시간이 제한되어 이전에는 표적이 되지 않았던 기기들이, 그것이 보유한 데이터 때문이 아니더라도 더 가치 있는 표적을 공격하기 위한 발판으로 사용할 목적으로 표적이 될 수 있게 되었다"고 말했다. 그리고 표적은 부족하지 않다. 인터넷은 구멍투성이의 함께 형편없이 확보됨 스마트 장치.
Papernot는 AI를 의인화하는 것에 대해 경고했지만, 의인화하는 것 AI 기반 컴퓨터 웜의 위협은 “구체적”이며 “즉각적인 조치가 필요하다”고 말하며, 특히 병원과 전력망 같은 핵심 인프라를 확보하는 문제가 중요하다고 강조했다.
“모든 종류의 장치를 확보하기 위한 대대적인 노력이 없다면, AI 웜이 번식할 기반을 얻게 될 가능성이 상당히 높다”고 Ladish는 말했다. “앞으로 12개월 안에 이런 사례가 실제 환경에서 처음 나타나는 것을 보게 될 것으로 예상합니다.”
주제 및 작성자 팔로우 이 이야기의 주제와 작성자를 팔로우하면 개인화된 홈페이지 피드에서 유사한 콘텐츠를 더 많이 확인하고 이메일 업데이트를 받을 수 있습니다.