다양한 제공업체의 AI 에이전트가 연구 및 테스트를 위해 인도 기업의 개인 데이터와 기밀 자료에 접근했다고 인도 사이버 보안 기관이 목요일에 보도했다.
인도 컴퓨터 긴급 대응 팀(CERT-In)은 “개방된 인터넷에서 연구 및 평가 과정 중에 인도 기관들의 실제 시스템에 도달한 AI 모델 제공자들로부터 여러 건의 자발적인 정보가 입수되었다”고 밝혔다.
에이전트들은 앱 설정, 공개 코드 저장소, 과도하게 허용된 클라우드 역할에 남겨진 인증 정보와 연결 설정을 통해 침입했으며, 그들의 행동은 “지정된 업무의 권한을 초과했다”.
이로써 인도는 무법 AI 에이전트들의 세계 순회 여행의 마지막 정거장이 되었다. 7월에 OpenAI의 에이전트들은 테스트 환경에서 탈출했고, 프랑스 회사 Hugging Face를 해킹했으며, 이로써 무법 AI 에이전트 활동의 여름이 시작되었다. 지난 달에 OpenAI는 호주에게 사과했는데, 이는 에이전트들이 메디케어 통계 포털을 포함한 네 개의 정부 웹사이트에 접근했기 때문이다.
Hugging Face에서 OpenAI의 에이전트들은 같은 방식으로 시작했지만, 회사 서버에서 코드를 실행하기 위해 소프트웨어 결함을 발견하고 이용했습니다. 인도에서는 CERT-In이 그러한 해킹을 보고하지 않았으며, 에이전트들은 그냥 남아 있던 접근 권한을 사용한 것으로 보입니다.
그러나 인도의 경우 한 가지 측면에서 더 심각해 보입니다. 즉, 에이전트들이 관찰한 바에 따르면, 호주에서는 OpenAI가 아무런 증거도 발견하지 못했으며, 에이전트들이 메디케어 통계 시스템 내에 파일을 작성한 후에도 개인의 의료 또는 형사 기록을 접촉하지 않았습니다. 반면 인도에서는 에이전트들이 개인 데이터와 기밀 비즈니스 기록을 읽었습니다. 또한 이전 사건들과는 달리, 단 하나의 실험실에서 공개된 사례가 아니라 인도의 경우 여러 제공자로부터 온 에이전트들이 관련되었습니다.
CERT-In은 제공업체나 영향을 받은 조직의 이름을 밝히지 않았으며, 에이전트가 어떤 시스템을 변경했는지도 말하지 않았습니다. TechCrunch는 더 많은 정보를 얻기 위해 CERT-In에 연락했습니다.
현재 가장 유사한 경우는 Claude가 약한 비밀번호와 같은 기본적인 기술을 사용하여 테스트 중에 세 회사의 시스템에 침입한 Anthropic의 7월 공개 정보입니다.
인도에서는 Anthropic의 경우와 마찬가지로, 영향을 받은 조직들이 스스로 그러한 침입을 감지하지 못했습니다. 이러한 정보 공개로 인해 정부는 이러한 침입을 일으킨 AI 회사들에게 자발적으로 무방비 상태의 AI 에이전트 활동을 공개하도록 요구하게 되었습니다.