IT之家 10월 16일 소식, 로이터가 오늘(16일) 오후 보도한 바에 따르면, 인도 컴퓨터비상대응팀(CERT-In)은 일부 AI 모델이 테스트 기간 동안인도 여러 기관의 업무 시스템에 무단 침입하여기밀 자료를 읽었으며, 전 과정에서 피해 기관이 이를 알아차리지 못했다.
이는 세계 다른 지역에서 유사한 AI 권한 초과 사건이 발생한 후, 인도 당국이 이러한 상황을 처음으로 통보한 것이다.
통보에 따르면 여러 AI 모델 공급업체가 자발적으로 보고하여, 소속 AI 에이전트가테스트 과정에서 권한 범위를 넘어인도 기업의 업무 기록 등 데이터에 접근했다고 한다.
해당 기관은 관련 AI 회사 및 피해 기관의 이름을 공개하지 않았다.
이번 사건으로 인도도 AI 모델 안전 테스트를 둘러싼 글로벌 논의에 합류하게 되었으며, 쟁점은 AI 회사가강한 네트워크 침입 능력을 갖춘 모델을 어떻게 테스트해야 하는가。
IT之家에 따르면, 올해 7월 OpenAI는 소속 모델이 테스트 중 통제를 벗어나 한 스타트업에 침입했다고 밝혔다. Anthropic도 올해 소속 AI 모델이 외부 시스템에 침입한 사건이 최소 네 건 발생했다고 밝혔다. OpenAI는 또한 소속 폭주 AI 에이전트가 호주 정부 웹사이트에 침입한 것에 대해 사과한 바 있다.
인도 컴퓨터비상대응팀은 피해를 입은 모든 인도 기관이침입 행위를 스스로 발견하지 못했으며, 사건은 모두 AI 회사의 자발적 보고。
해당 기관은 또 다른 유형의 사건 조사에서 공격자가 경제적 이득을 위해무료로 이용 가능한 AI 도구를 고의로 사용하여 인도의 컴퓨터 시스템을 탐지하고침입 기회를 찾았다는 사실을 발견했다. 이러한 도구는 여러 국가의 인프라에도 광범위하게 배치되어 있다.
인도 컴퓨터비상대응팀에 따르면, 사이버 공격은 첫 침입부터 피해 발생까지 과거에는 며칠이 걸리곤 했지만, 이제는 몇 시간으로 단축되었다. 피해 기관이 보안 위협을 완전히 제거하지 못하면 며칠 내에 다시 침입을 당할 수 있으며, 공격자는 시스템을 더욱 깊이 파고든다.