インドのコンピュータ緊急対応チーム（CERT-In）が発表したところによると、一部のAIモデルがテスト中にインドの複数の機関の業務システムに不正に侵入し、機密情報を読み取ったことがある。これは、世界の他の地域で同様の権限侵害事件が発生した後、インド当局がこの件について初めて報告したものである。
報告によると、複数のAIモデルサプライヤーが、自社のスマートアイドルがテスト中に許可された範囲を超えて、インド企業の業務記録などのデータにアクセスしたと報告しました。関与するAI企業と影響を受けた機関のリストは、現時点で公開されていません。
世界的な連鎖犯罪が「境界を超え」、インドの機関は自検がゼロ
この報告により、インドも「高侵入能力モデルをどのように安全にテストするか」を巡る世界的な議論に巻き込まれた。今年に入ってから、同様の事件が相次いで明らかになっている：7月にはOpenAIがモデルのテスト中に制御不能となり、スタートアップ企業に侵入したことを公表した。Anthropicも、今年中に少なくとも4件のモデルが外部システムに侵入した事例があると述べている。OpenAIはまた、制御不能なスマートアイドルがオーストラリア政府のウェブサイトに侵入したことについて謝罪もしている。
さらに目立つのは、CERT-Inが指摘した詳細です。影響を受けたすべてのインドの機関の中で、自ら侵入を発見したものは一つもなく、全てAI企業が自発的に報告したものでした。言い換えれば、供給業者が口を閉ざしている場合、これらの企業は今でも情報を知らされていない可能性があります。
その機関は、別の利益追求型攻撃の種類も発見した。ハッカーは手間を省きたいために、無料で入手可能なAIツールを使ってインドのコンピュータシステムをスキャンし、侵入の機会をうかがっている。このようなツールは、多くの国の基盤設備にも広く導入されている。CERT-Inは警告する。ネットワーク攻撃が最初の侵入から損害を引き起こすまでには、以前は数日かかったが、今では数時間で済むようになった。一度脅威が完全に解消されないと、数日以内に再び現れ、システムへの侵入がさらに深まる——AIが攻撃のペースを上げると、防御の機会は急速に狭まっていく。