マイクロソフトは月曜日に 新しいセキュリティ機能を導入 AIエージェントの増加する脅威から企業を守るために設計された。この発売はマイクロソフトによるものです。 企業に対して危険を警告し続ける AIとエージェントについて。
おそらく最も注目すべき追加機能は、Guardian Agentsです。これは、企業が使用するAIエージェントを監視するための新機能です。Guardian Agentsは、6月に発表されたプロダクトであるProject Perceptionの一部です。
Project Perceptionは、AnthropicのMythosやFableといった強力なハッキングモデル、OpenAIのセキュリティ脆弱性スキャニングシステムDaybreakに対するMicrosoftの対応である。Project Perceptionは当初、3種類のエージェントを導入した：ハッカーのように攻撃を行う「レッドチーム」、レッドチームを検出し、発見された脆弱性を評価する「ブルーチーム」、そしてそれらの脆弱性を修正する任務を負う「グリーンチーム」である。
この製品は、AIハッカーが会社の外部から来るという前提に基づいて設計されました。しかし最近、マイクロソフトのCEOであるサティヤ・ナデラは、AIの敵が企業が導入し、費用を支払っているエージェント自身である可能性があると警告しています。これは、「内部者脅威」として知られる、不正行為を行う人間の従業員のようなものです。
今月初め、彼のプライベートブログで、ナデラは、エージェント製品において安全とセキュリティの保証を提供してくれるとしても、AIモデルプロバイダーを信頼するのをやめる時が来たと警告した。彼は、企業がAIラボによって制御されるのではなく、独立したシステムを導入し、そのAIラボ製品が発行するエージェントを監視し制御することを望んでいる。
「私たちは、最も機密性の高いデータにアクセスできるこれらの複雑なエージェント型システムとモデルを導入し、私たちの代わりに任務上重要な行動を取る能力を与えている！」と彼は書いている。「私たちは、私たちの代わりに情報がどのように利用されるかについての責任を外部に委託することはできない。モデルプロバイダーの保証も、その責任から私たちを解放するものではない。……つまり、情報の提供とその管理権限を分離する必要がある。」
マイクロソフトのセキュリティ事業担当責任者であるヘイエット・ガロットは、『ガーディアン・エージェント』を発表する際、さらに率直な発言をした。
「残念ながら、フロンティアモデルはその起源に関わらず、信頼できない」と彼女は書き、これは悪意があるか簡単にハッキングされるからではなく、予測不可能だからだと付け加えた。それらは「組織の規範や判断」に従うのではなく、タスクを遂行するために訓練されているのだ。
さらに、彼らはしばしば「王国の鍵」を与えられ、重大な害を及ぼす可能性のあるデータやツールにアクセスすることができる。
マイクロソフトの解決策は、驚きがありながら自己中心的でもある。驚きの点は、マイクロソフトがOpenAIやAnthropicに近い関係を持ち、両者に投資していることだ。OpenAIはまた、マイクロソフトの最大級のクラウド顧客の一つであり、マイクロソフト自身もAIラボを設けてモデルを開発している。したがって、マイクロソフトは自社の事業上の利益に対する不信感を植え付けているのだ。
自己中心的な点は、マイクロソフトが企業に対して、アントロピックやオープンAIではなく、クラウドプロバイダーである自社からエージェントセキュリティ製品を購入するよう促したいということです。しかし、利害関係が対立しているとしても、その論理は妥当です。エージェントの行動を監視するソフトウェアは、エージェントの供給者とは独立しているべきであり、監査士も監査対象の組織から独立しているべきです。
あるいはナデラが言うように：「情報の提供とその管理権を分離する必要があります。」
Microsoftは、さまざまな方法でそのビジネス機会を活用している。Guardian Agentsに加えて、Microsoft Defender製品にはエージェント検出機能が追加され、Claude Code、Codex、OpenClawを含む、従業員が職場に持ち込む最大60種類のエージェントを特定できる。また、エージェントがデータやシステムへのアクセスを制限する機能や、タスクに応じてエージェントの権限を動的に調整する機能も追加されている。 エージェントが危険な決定をしているように見える場合は、人間の承認を必要とすることも含まれます。
エージェントを信頼できない内部者とするという考えが、より広範な業界全体で広がっている。
Microsoftは、Nvidiaの新しいOpen Agent Safety Platformの初任者メンバーであり、100社以上の他のテクノロジー企業からの支援を得ている。このプラットフォームはエージェントを安全な環境に隔離し、ハードウェアを通じて行動を監視・停止する機能を持ち、まるでキルスイッチのような役割を果たす。これは、Microsoftがエージェント向けに設計された新しいSurface Laptop Ultra PCを発表したことに続くものであり、このPCはNvidiaチップを使用し、エージェントのセキュリティと制御機能が内蔵されている。