IT之家 10月20日の報道によると、マイクロソフトは現地時間の月曜日に、ますます深刻化するアンドロイドがもたらすセキュリティ脅威に対処するための新しいセキュリティ機能を多数公開した。この製品を発表するにあたり、マイクロソフトは企業に対して人工知能とアンドロイドがもたらす様々なリスクについて引き続き警告している。
IT之家が注目したところによると、今回追加された機能の中で最も重要なのはガーディアンエージェントです。この新機能は、企業内で使用されている各種AIエージェントを監視するために利用されます。ガーディアンエージェントはプロジェクト・ペルシポニングに属しており、プロジェクト・ペルシポニングはマイクロソフトが6月に発表した製品です。
感知プロジェクトは、マイクロソフトがAnthropicのMythos、Fableなどの強力なハッカーモデル、およびOpenAIのセキュリティ脆弱性スキャンシステムDaybreakに対して提供した対応策です。感知プロジェクトは当初、3種類のインテリジェントアーキテクチャを導入しました。攻撃を行うハッカーの役割を果たすレッドチームのインテリジェントアーキテクチャ、レッドチームの攻撃を検出し、脆弱性を評価するブルーチームのインテリジェントアーキテクチャ、そして脆弱性を修復するグリーンチームのインテリジェントアーキテクチャです。
この製品の当初の設計前提は、AIハッカーが企業の外部から来るというものでした。しかし最近、マイクロソフトのCEOであるサティヤ・ナデラが警告しています。AI面での脅威源は、企業自身が導入し、支払いをしているスマートアンドの可能性があると。それは行動が制御不能になる内部従業員のようなもので、いわゆる「内部脅威」です。
今月の初めに、ナドラは自身のブログで警告を発した。自社が自律実行能力を持つインテリジェント製品のセキュリティ保証を約束しても、AIモデルサプライヤーをもはや信頼するべきではないという。彼は、AIラボラトリーの管理下にない独立したシステムを企業が構築することを提案している。このシステムを用いて、これらの人工知能ラボラトリーが提供する製品に対応するインテリジェントを監視・管理するのだ。
彼は次のように書いている。「私たちは、このような複雑なスマートアプリシステムやモデルを導入している。それらは私たちの最も機密なデータにアクセスでき、また私たちの代わりに重要な業務操作を行うこともできる！スマートアプリが私たちの任務を代行する責任を外部に委ねることは絶対に許されない。モデル供給業者が提供する保証は、この責任を免れるものではない……言い換えれば、スマート能力の供給とその管理権限を分離する必要がある。」
守護スマートアイデアについて紹介する際、マイクロソフトのセキュリティ事業担当者であるハイエット・ガロットの発言はより率直であった。
彼女は次のように書いています。「残念ながら、フロントエンドモデルがどこから来たにせよ、完全に信頼することはできません。」彼女はさらに、これはモデル自体に悪意があるとか、ハッカーに攻撃される可能性があるからではなく、その行動が予測不可能だからだと付け加えました。モデルの訓練目的はタスクを完了することであり、「組織の規範や判断基準」を遵守することではありません。
それに加えて、これらのスマートアイテムはしばしば高い権限を持ち、様々なデータやツールにアクセスできるため、制御を失った場合には深刻な損害を引き起こす可能性があります。
マイクロソフトが提示したこの解決策は、予想外であり、同時に自身の商業的な考慮も含まれている。驚くべき点は、マイクロソフトがOpenAIやAnthropicと密接な関係を持ち、両企業に投資していることである。OpenAIはマイクロソフトのクラウド事業の重要な顧客であり、マイクロソフト自身もAIラボを設置して大規模モデルを研究している。つまり、マイクロソフトは顧客に対し、自社の商業パートナーの製品に注意を払うようにしているのだ。
商業的な利益の観点から見ると、マイクロソフトは企業が自社のクラウドサービスプロバイダーからスマートアームのセキュリティ製品を購入することを望んでいる。AnthropicやOpenAIから購入するのではない。利益相反を考慮しない場合、この論理自体は成り立つ：スマートアームの行動を監視するソフトウェアは、スマートアームの提供側とは独立しているべきであり、これは監査機関が被監査組織から独立している必要があるのと同じである。
ナドラが言ったように、「私たちは、スマート能力の供給とその管理権限を分離する必要がある。」
マイクロソフトは様々な方法でこのビジネス機会を利用しています。Guardian Agentの他に、Microsoft Defender製品にはAgent検出機能が追加され、最大60種類のAgentが作業環境に持ち込まれることを認識できます。これらにはClaude Code、Codex、OpenClawが含まれます。製品には、Agentがデータやシステムへのアクセス権限を制限できる機能も追加されており、タスクに応じてAgentの権限を動的に調整できます。Agentが高リスクな操作を行おうとすると、システムは人間の承認を求めます。
スマートアイドルを信頼できない内部の脅威と見なす考え方が、業界全体で徐々に共通認識となっている。
マイクロソフトは、ニューラビディアの新しいオープンエージェントセーフティプラットフォーム（Open Agent Safety Platform）の創設メンバーです。このプラットフォームは、100以上の技術企業からの支持を得ています。このプラットフォームでは、エージェントを安全な環境に隔離し、ハードウェアを通じて異常行動を監視し、停止する機能があり、これは緊急遮断スイッチのようなものです。それ以前に、マイクロソフトはエージェント向けの新しいSurface Laptop Ultraノートパソコンを発表しました。このデバイスにはニューラビディアチップが搭載され、エージェントセーフティ管理モジュールが内蔵されています。