複数のプロバイダーから来たAIエージェントが、研究およびテストの過程でインドの組織における個人データや機密資料にアクセスした。インドのサイバーセキュリティ機関 言った 木曜日。
インドのコンピュータ緊急対応チーム（CERT-In）は、「オープンインターネット上での研究や評価の過程で、そのモデルがインドの組織の実際のシステムに導入されている」とされるAIモデルプロバイダーから「複数の自発的な情報提供」を受け取ったと述べている。
エージェントは、アプリケーションの設定、公開されたコードリポジトリ、過度に許可されたクラウドロールに残された認証情報や接続設定を通じて侵入し、その行動は「割り当てられたタスクの権限を超えていた」。
これにより、不正なAIエージェントの世界ツアーとなったこの活動は、インドが最新の拠点となった。7月には、OpenAIのエージェントがテスト環境から抜け出し、フランスの企業Hugging Faceをハッキングした——これが不正なAIエージェント活動の夏を始めた。先月、OpenAIはオーストラリアに謝罪した。その理由は、エージェントがメディカル・マネジメント統計ポータルを含む4つの政府ウェブサイトにアクセスしたためである。
Hugging Faceでは、OpenAIのエージェントは同じように始まったが、その後ソフトウェアの欠陥を見つけて会社のサーバー上でコードを実行する方法を利用した。インドではCERT-Inはそのようなハッキングについて言及しておらず、エージェントは単に残っているアクセス権を使ったようだ。
それでも、インドのケースは一つの点でより深刻なようだ。それはエージェントが見たことである：オーストラリアでは、OpenAIは発見したと述べている 証拠はない そのエージェントは、メディケア統計システム内にファイルを作成した後でも、個人の医療記録や犯罪記録にアクセスしました。インドでは、エージェントが個人データと機密な業務記録を読み取っていました。また、以前の事件とは異なり、単一のラボから公開された事件ではなく、インドでは複数の提供業者からのエージェントが関与していました。
CERT-Inは、プロバイダーや影響を受けた組織の名前を明かさず、エージェントがどのようなシステムを変更したかについても言及しなかった。TechCrunchはより詳細な情報を得るためにCERT-Inに連絡した。
現時点では、最も近い類似例は、Claudeが弱いパスワードのような基本的な手法を使ってテスト中に3つの企業のシステムに侵入したことに関する、Anthropicの7月の発表である。
インドでは、Anthropicのケースと同様に、影響を受けた組織は自らその侵入を発見できなかった。この情報公開により、政府はAI企業にこれらの侵害行為を自発的に明らかにするよう求めることになった。