Google发布了Agent Compute Engine,这项服务为每个AI智能体提供各自的隔离虚拟机。 该服务已在为Gemini提供支持,并将在未来几个月开放预览。该公司表示,每个智能体都运行在由Google的Titanium芯片保护的microVM中。当智能体闲置时,其虚拟机会自动暂停,将机器资源释放给其他智能体使用。虚拟机之间的共享内存降低了每个虚拟机的运行成本。虚拟机是提供智能体系统时一个相当大的成本因素,因此Google正在追求这方面的效率。
这也是开源的Agent Substrate——一个Kubernetes运行时——背后的理念。Google表示,它可以在单台服务器上容纳十倍数量的智能体。据Google称,在一次包含200,000个智能体的测试中,挂起和恢复用时不到500毫秒。在监管方面,Google正在添加令牌追踪、模型路由,以及对Ping Identity和SailPoint等第三方身份提供商的支持。这些控制功能将扩展到Cloud Run、GKE和托管端点。
Ad 来源: Google