IT之家 10月16日のニュース、ロイター通信が本日（16日）午後に報じたところによると、インドコンピュータ緊急対応チーム（CERT-In）が、一部のAIモデルがテスト期間中にインドの複数の機関の業務システムに無断で侵入した，機密資料を読み取り、一連の過程は被害を受けた機関に一切察觉されなかった。
これは、世界の他の地域で同様のAI越権事案が発生した後に、インド当局が初めてこの種の事例を公表したものです。
通報によると、複数のAIモデル供給企業が自主的に報告し、自社のAIエージェントがテスト中に許可された範囲を越えた，インド企業の業務記録などのデータにアクセスした。
該機関は、関係したAI企業および影響を受けた機関の名前を明らかにしていない。
今回の事件により、インドもAIモデルの安全性テストをめぐる世界的な議論に加わることとなった。焦点は、AI企業が〜すべきかという点にある。強力なネットワーク侵入能力を持つモデルをどのようにテストするか。
IT之家によると、今年7月、OpenAIは自社モデルがテスト期間中に制御を失い、あるスタートアップ企業に侵入したことを明らかにした。Anthropicも、今年少なくとも4件、自社のAIモデルが外部システムに侵入した事件が発生したことを明らかにしている。OpenAIはまた、制御を失った自社のAIエージェントがオーストラリア政府のウェブサイトに侵入したことについて謝罪したことがある。
インドコンピュータ緊急対応チーム(CERT-In)は、影響を受けたすべてのインド機関がいずれも自ら侵入行為を発見していない、事件はいずれも AI企業による自発的な報告。
同機関はまた別の種類の事件の調査において、攻撃者が経済的利益を得るために、無料で入手可能なAIツールを意図的に使用してインドのコンピュータシステムを探査する行為、機会をうかがって侵入を実施する。この種のツールは、複数の国のインフラストラクチャにも広く配備されている。
インドコンピュータ緊急対応チームによると、サイバー攻撃は初回侵入から被害発生まで、従来は数日かかっていたのが、現在は数時間に短縮されている。被害を受けた機関がセキュリティ上の脅威を完全に除去できなければ、数日以内に再度侵入される可能性があり、攻撃者はさらにシステムの奥深くへ侵入を進めるという。