Microsoft hat am Montag neue Sicherheitsfunktionen eingeführt, die dazu dienen, Unternehmen vor der wachsenden Bedrohung von AI-Agenten zu schützen. Die Einführung erfolgt in einer Zeit, in der Microsoft weiterhin Unternehmen vor den Gefahren von AI und Agenten warnt.
Vielleicht ist das bedeutendste Neuerteil Guardian Agents, eine neue Funktion, die dazu dient, die von einem Unternehmen verwendeten KI-Agenten zu überwachen. Guardian Agents ist Teil des Projekts Perception, eines Produkts, das im Juni eingeführt wurde.
Das Projekt Perception war Microsofts Antwort auf mächtige Hacking-Modelle wie Anthropics Mythos und Fable sowie auf das Sicherheitsvulnerabilitätsscanningssystem von OpenAI, Daybreak. Das Projekt Perception startete ursprünglich drei Arten von Agenten: eine „rote Einheit“, die wie Hacker handelte und Angriffe durchführte, eine „blaue Einheit“, die die rote Einheit erkennte und die entdeckten Schwachstellen bewertete, sowie eine „grüne Einheit“, die dafür zuständig war, diese Schwachstellen zu beheben.
Das Produkt wurde unter der Annahme entwickelt, dass AI-Hacker von außerhalb der Firma kommen würden. Aber in letzter Zeit hat Microsoft-CEO Satya Nadella gewarnt, dass der AI-Gegner möglicherweise diejenigen Agenten sind, die Unternehmen eingesetzt haben und für die sie bezahlen – ähnlich wie ein verwegener Mitarbeiter, auch als „Innensicherheitsbedrohung“ bekannt.
Anfangs dieses Monats warnte in seinem privaten Blog Nadella, dass es an der Zeit ist, auf die Vertrauen in die AI-Modellanbieter zu verzichten – auch wenn diese Sicherheitsgarantien für ihre agentischen Produkte geben. Er möchte, dass Unternehmen separate Systeme implementieren, die nicht von den AI-Laboren kontrolliert werden, um die von diesen Produkten ausgelieferten Agenten zu überwachen und zu steuern.
„Wir setzen diese komplexen agentischen Systeme und Modelle in Betrieb, mit Zugang zu unseren sensibelsten Daten, und geben ihnen die Möglichkeit, im Namen unser zu missionkritischen Handlungen auszuführen!“ schrieb er. „Wir können einfach nicht die Verantwortung dafür delegieren, was die Geheimdienste im Namen von uns tun. Die Garantien eines Modelle-Anbieters entlasten uns nicht von dieser Verantwortung. … Mit anderen Worten: Wir müssen den Erhalt der Informationen vom Zugriff darauf trennen.“
Bei der Ankündigung der Guardian Agents war Hayete Gallot, der Leiter des Sicherheitsgeschäfts von Microsoft, noch direkter.
„Leider können Grenzmodellen, unabhängig von ihrer Herkunft, nicht vertrauenswürdig sein“, schrieb sie und fügte hinzu, dass dies nicht darin liegt, dass sie böswillig oder leicht hackbar sind, sondern weil sie unvorhersehbar sind. Sie wurden trainiert, Aufgaben zu erfüllen, nicht, „organisatorische Normen oder Urteile zu befolgen“.
Außerdem erhalten sie oft die Schlüssel zum Königreich, mit Zugang zu Daten und Werkzeugen, die ernsthafte Schäden verursachen können.
Microsofts Lösung ist sowohl überraschend als auch self-serving. Die überraschende Seite ist, dass Microsoft bekanntlich eng mit OpenAI und Anthropic verbunden ist und in beide investiert hat. OpenAI ist außerdem einer der größten Cloud-Kunden von Microsoft, und Microsoft verfügt über sein eigenes AI-Labor, das Modelle entwickelt. Somit sätzt Microsoft Misstrauen gegenüber einigen seiner eigenen Geschäftsinteressen.
Die selbstzufriedende Seite ist, dass Microsoft die Unternehmen dazu bringen will, Sicherheitsprodukte für Agenten von ihm, dem Cloudanbieter, zu kaufen, anstatt von Anthropic und OpenAI. Aber abgesehen von den widersprüchlichen Interessen ist seine Logik berechtigt. Das Software, das das Verhalten der Agenten überwacht, sollte getrennt von den Anbietern der Agenten sein, genauso wie Auditor unabhängig von den Organisationen sein müssen, die sie prüfen.
Oder wie Nadella sagt: „Wir müssen die Bereitstellung von Informationen von der Befugnis dazu trennen.“
Microsoft nutzt nun diese Geschäftsgelegenheit auf verschiedene Weise. Neben Guardian Agents hat das Unternehmen eine Agent-Detection-Funktion zu seinem Microsoft Defender-Produkt hinzugefügt, die bis zu 60 Arten von Agenten identifizieren kann, die Mitarbeiter im Büro mitbringen – darunter Claude Code, Codex und OpenClaw. Zudem wurden Funktionen hinzugefügt, die den Zugriff der Agenten auf Daten und Systeme einschränken und deren Berechtigungen dynamisch an die Aufgabe anpassen. Dazu gehört die Anforderung einer menschlichen Genehmigung, wenn ein Agent scheinbar riskante Entscheidungen trifft.
Diese Vorstellung von Agenten als unzuverlässige Insider auch in der breiteren Industrie verbreitet sich.
Microsoft war einer der ersten Mitglieder der neuen Open Agent Safety Platform von Nvidia, die die Unterstützung von mehr als 100 anderen Technologieunternehmen erhalten hat. Die Plattform isoliert die Agenten in sicheren Umgebungen und kann das Verhalten über Hardware überwachen und stoppen – ähnlich wie ein „Kill Switch“. Dies folgt auf Microsofts Ankündigung der neuen Surface Laptop Ultra-PCs, die speziell für Agenten entwickelt wurden, die auf Nvidia-Chips laufen und Sicherheit sowie Kontrollmechanismen für Agenten enthalten.