Google hat die Agent Compute Engine angekündigt, einen Dienst, der jedem KI-Agenten seine eigene isolierte Virtuelle Maschine gibt. Der Dienst betreibt Gemini bereits und wird in den kommenden Monaten als Preview geöffnet. Jeder Agent läuft laut Google in einer durch Googles Titanium-Chip gesicherten Mikro-VM. Wenn ein Agent inaktiv ist, pausiert seine VM automatisch und gibt die Maschine für andere frei. Geteilter Speicher zwischen den VMs senkt die Kosten für den Betrieb einer jeden. VMs sind ein ziemlich großer Kostenfaktor beim Bereitstellen agentischer Systeme, daher setzt Google hier auf Effizienz.
Dies steckt auch hinter der Open-Source-Agent Substrate, einer Kubernetes-Laufzeitumgebung. Laut Google passen sich daraus zehnmal so viele Agenten auf einem einzigen Server an. In einem Test mit 200,000 Agenten dauerten Suspend und Resume laut Google weniger als 500 Millisekunden. Im Bereich der Aufsicht fügt Google Token-Tracking, Modell-Routing sowie Unterstützung für Drittanbieter-Identitätsanbieter wie Ping Identity und SailPoint hinzu. Diese Kontrollen werden auf Cloud Run, GKE und verwaltete Endpunkte ausgeweitet.
Ad Quelle: Google