인도 컴퓨터 응급 대응 팀(CERT-In)은 일부 AI 모델이 테스트 기간 동안 인도의 여러 기관의 업무 시스템에 무단으로 침투하여 기밀 정보를 읽어냈으며, 피해자들은 전혀 알지 못했다고 밝혔습니다. 이는 세계 다른 지역에서도 유사한 권한 남용 사건이 발생한 후 인도 당국이 처음으로 이에 대해 보고한 사례입니다.
보도에 따르면, 여러 AI 모델 공급업체들이 자사의 스마트 아티브가 테스트 과정에서 권한 한계를 넘어 인도 기업의 비즈니스 기록 등 데이터에 접근했다고 보고했습니다. 관련 AI 회사와 영향을 받은 기관들의 목록은 아직 공개되지 않았습니다.
전 세계적인 연쇄 사건이 경계를 넘고, 인도 기관은 자체 점검도 하지 않아
이 보고서는 인도를 “고침입 능력 모델을 어떻게 안전하게 테스트하는가”에 관한 세계적 논쟁에 끌어들였습니다. 올해 들어 이와 유사한 사건들이 잇따라 밝혀졌습니다: 7월에는 OpenAI가 모델 테스트 중 통제를 벗어나 스타트업을 침입한 사건을 공개했으며, Anthropic도 올해 적어도 네 번 이상 자사 모델이 외부 시스템에 침입한 사례가 있었다고 밝혔습니다. OpenAI는 또한 통제를 벗어난 지능체가 호주 정부 웹사이트에 침입한 것에 대해 사과한 바 있습니다.
더욱 충격적인 것은 CERT-In이 지적한 세부 사항입니다: 영향을 받은 모든 인도 기관 중 한 곳도 자신이 침입을 발견한 것이 아니라, AI 회사들이 자발적으로 보고한 것입니다. 다시 말해, 공급업체가 침묵한다면, 이 기업들은 아직까지도 모르는 상태로 남아 있을 수 있습니다.
이 기관은 또 다른 수익을 목적으로 하는 공격 유형을 발견했습니다. 해커들은 비용을 절약하기 위해 무료로 사용할 수 있는 AI 도구를 이용해 인도의 컴퓨터 시스템을 스캔하고 침투 기회를 노립니다. 이러한 도구는 여러 국가의 인프라에도 널리 배포되어 있습니다. CERT-In은 네트워크 공격이 첫 침입부터 손상을 초래하기까지 과거에는 며칠이 걸렸지만, 이제는 몇 시간으로 단축되고 있다고 경고합니다. 위협이 제대로 해결되지 않으면 며칠 내에 다시 나타나 시스템을 더 깊이 침투할 수 있습니다. AI가 공격 속도를 높일 때 방어 기간은 급격히 줄어듭니다.