IT之家 – Am 20. Oktober gab Microsoft am Montag in der örtlichen Zeitrechnung mehrere neue Sicherheitsfunktionen heraus, um Unternehmen dabei zu unterstützen, die zunehmend ernsten Sicherheitsbedrohungen durch KI-Systeme entgegenzutreten. Bei der Veröffentlichung dieses Produkts weist Microsoft weiterhin auf die verschiedenen Risiken bezüglich künstlicher Intelligenz und KI-Systemen für Unternehmen hin.
IT Home hat bemerkt, dass die neu hinzugefügte Funktion am meisten Aufmerksamkeit erregt, nämlich die Guardian Agents. Diese neue Funktion dient dazu, alle Arten von AI-Agenten zu überwachen, die innerhalb des Unternehmens verwendet werden. Die Guardian Agents gehören zum Project Perception, einem Produkt, das Microsoft im Juni eingeführt hat.
Das Perception-Projekt ist eine Lösung, die Microsoft gegen die leistungsstarken Hacker-Modelle von Anthropic wie Mythos und Fable sowie gegen das Sicherheitslücke-Scan-System von OpenAI Daybreak entwickelt hat. Das Perception-Projekt wurde ursprünglich drei Arten von Intelligenzen veröffentlicht: die Rot-Team-Intelligenz, die als Hacker die Angriffe durchführt, die Blaue-Team-Intelligenz, die für die Erkennung der Angriffe des Rot-Teams und die Bewertung der Lücken zuständig ist, sowie die Grüne-Team-Intelligenz, die speziell dafür zuständig ist, die Lücken zu beheben.
Das ursprüngliche Konzept des Produkts war, dass die AI-Hacker von außen stammen würden. Doch kürzlich hat der CEO von Microsoft, Satya Nadella, eine Warnung abgegeben: Die Quelle der Bedrohung im Bereich der KI könnte genau die von Unternehmen selbst implementierten und bezahlten Intelligenzen sein, ähnlich wie ein Mitarbeiter mit unkontrollierbarem Verhalten – also die sogenannte „Interne Bedrohung“.
Anfangs dieses Monats gab Nadera in seinem persönlichen Blog eine Warnung ab: Es sei an der Zeit, den Anbietern von AI-Modellen nicht mehr zu vertrauen – auch dann nicht, wenn die Hersteller Sicherheitsverpflichtungen für ihre Produkte mit autonomen Agenten geben. Er empfahl Unternehmen, unabhängige Systeme aufzubauen, die nicht von AI-Laboren kontrolliert werden und dazu dienen, die Agenten, die von diesen AI-Laboren entwickelt werden, zu überwachen und zu steuern.
Er schrieb: „Wir setzen solche komplexen intelligenter Systeme und Modelle in Betrieb, die Zugriff auf unsere sensibelsten Daten haben und für uns wichtige Geschäftstätigkeiten ausführen können! Wir dürfen die Verantwortung für die Handlungen der Intelligenzen nicht an Dritte übergeben. Die Garantien, die die Modelleitshifter geben, entlasten uns nicht von dieser Verantwortung… Mit anderen Worten: Wir müssen die Bereitstellung der intellektuellen Fähigkeiten von den Kontrollrechten dazu trennen.“
Bei der Vorstellung des Betriebsintelligenzmodells ist die Aussage von Hayete Gallot, Leiter der Sicherheitsabteilung bei Microsoft, noch direkter.
Sie schrieb: „Es ist bedauerlich, dass die Vorreiter-Modelle, egal woher sie stammen, nicht vollständig vertrauenswürdig sind.“ Sie fügte hinzu, dass dies nicht darin liegt, dass das Modell selbst böse Absichten hat oder leicht von Hackern angegriffen werden kann, sondern weil sein Verhalten unvorhersehbar ist. Das Trainingsziel des Modells ist es, Aufgaben zu erledigen, nicht, die „Organisationsvorschriften oder Bewertungskriterien“ zu befolgen.
Darüber hinaus verfügen diese Intelligenzsysteme oft über hohe Berechtigungen und können verschiedene Daten und Tools nutzen. Wenn sie die Kontrolle verlieren, kann dies schwerwiegende Schäden verursachen.
Die von Microsoft vorgestellte Lösung ist sowohl überraschend als auch mit eigenen Geschäftsbedürfnissen verbunden. Das Überraschende ist, dass Microsoft enge Beziehungen zu OpenAI und Anthropic hat und in beide Unternehmen investiert. OpenAI ist auch ein wichtiger Kunden von Microsoft Cloud, und Microsoft selbst betreibt Labore für KI-Entwicklung, um große Modelle zu entwickeln. Mit anderen Worten: Microsoft bringt seine Kunden dazu, vorsichtig gegenüber den Produkten einiger seiner Geschäftpartner zu sein.
Von der Perspektive der geschäftlichen Interessen aus möchte Microsoft, dass Unternehmen Sicherheitsprodukte für KI-Systeme von seinem Cloud-Dienstleister kaufen, anstatt bei Anthropic und OpenAI zu bestellen. Abgesehen von Interessenkonflikten ist diese Logik selbst überzeugend: Die Software zur Überwachung des Verhaltens von KI-Systemen sollte unabhängig von den Anbietern der KI-Systeme sein, genauso wie Audits unabhängig von den überprüften Organisationen sein müssen.
Wie Narendra Modi sagte: „Wir müssen die Bereitstellung intelligenter Fähigkeiten von den Kontrollrechten dazu trennen.“
Microsoft nutzt verschiedene Methoden, um diese Geschäftschance zu ergreifen. Neben dem Schutz des Intelligenzmodells fügt Microsoft Defender eine zusätzliche Funktion für die Erkennung von Intelligenzmodellen hinzu, die bis zu 60 verschiedene Intelligenzmodelle erkennen kann, die Mitarbeiter in die Arbeitsumgebung bringen. Dazu gehören Claude Code, Codex und OpenClaw. Das Produkt verfügt außerdem über Funktionen, mit denen die Zugrungsrechte von Intelligenzmodellen auf Daten und Systeme eingeschränkt werden können, sowie über dynamische Anpassung der Rechte der Intelligenzmodelle je nach Aufgabe. Wenn ein Intelligenzmodell eine hohe Risikofunktion ausführen wird, fordert das System eine manuelle Genehmigung.
Die Idee, den Agenten als unzuverlässige interne Bedrohung zu betrachten, entwickelt sich auch im gesamten Sektor allmählich zu einer Übereinkunft.
Microsoft ist einer der Gründungsmitglieder der neuen Open Agent Safety Platform von NVIDIA, die bereits von mehr als 100 Technologieunternehmen unterstützt wird. Die Plattform isoliert Agenten in einem sicheren Umfeld und überwacht den Hardware-Status sowie beendet unerwünschte Verhaltensweisen, ähnlich wie ein Not-Aus-Schalter. Zuvor hatte Microsoft das neue Surface Laptop Ultra mit NVIDIA-Chip und integriertem Sicherheitsmodul für Agenten veröffentlicht.