←新闻详情

The Decoder更新于 10月25日 22:00

Google 推出 Agent Compute Engine,为每个 Gemini 智能体分配硬件隔离微虚拟机

Google's Agent Compute Engine gives every Gemini agent its own hardware-isolated micro virtual machine

AI 导读

Google 宣布 Agent Compute Engine,为每个 AI 智能体提供独立隔离的虚拟机,该服务已支撑 Gemini,并将在未来几个月开放预览。每个智能体运行在由 Google Titanium 芯片保护的 microVM 中,空闲时自动暂停以释放机器,虚拟机间共享内存降低单机成本。Google 称其开源的 Kubernetes 运行时 Agent Substrate 可在单台服务器上容纳十倍数量的智能体,20 万智能体测试中挂起与恢复耗时低于 500 毫秒,同时新增 token 追踪、模型路由和对 Ping Identity、SailPoint 等第三方身份提供商的支持,这些管控将扩展到 Cloud Run、GKE 和托管端点。

推荐理由

AI 评分 69

原文给出了微虚拟机隔离、空闲暂停和共享内存等成本控制细节,可据此判断智能体规模化部署的工程取舍。

主题

标签

正文 · AI 翻译

Google 发布了 Agent Compute Engine,这项服务为每个 AI 智能体提供独立的隔离虚拟机。该服务已经为 Gemini 提供支持,并将在未来几个月开放预览。Google 表示,每个智能体都运行在由 Google Titanium 芯片保护的 microVM 中。当智能体空闲时,其虚拟机会自动暂停,从而为其他智能体释放机器资源。虚拟机之间的共享内存降低了每个虚拟机的运行成本。在提供智能体系统时,虚拟机是一项相当大的成本因素,因此 Google 正致力于提升效率。

这也是开源 Kubernetes 运行时 Agent Substrate 背后的技术。Google 表示,它可以在单台服务器上容纳十倍数量的智能体。据 Google 称,在 20 万个智能体的测试中,挂起和恢复耗时不到 500 毫秒。在监管方面,Google 正在增加 token 追踪、模型路由,以及对 Ping Identity 和 SailPoint 等第三方身份提供商的支持。这些管控措施将扩展到 Cloud Run、GKE 和托管端点。

来源

The Decoder