←新闻详情

Baseten 工程博客更新于 10月27日 19:21

Baseten 推出 Blaxel Carbon 沙箱私有预览,支持 NVIDIA OpenShell

Securing the open frontier with NVIDIA OpenShell and Blaxel sandboxes

AI 导读

Baseten 宣布 Blaxel 第四代基础设施 Carbon 进入私有预览,将很快登陆 Baseten 平台,为智能体沙箱与执行基础设施提供支撑。Carbon 仍基于 microVM,每个沙箱配备独立 IPv6 地址,并新增内核能力与运行时策略执行、手动快照、分叉,以及毫秒级从快照进入生产的路径。Baseten 同时作为 NVIDIA OpenShell 与 Open Secure AI Alliance 的启动合作伙伴,提供预装 OpenShell 的 Carbon 沙箱模板。

正文 · AI 翻译

近几周,智能体安全已成为人们最关注的问题,尤其是故障模式存在于何处以及如何应对。我们很高兴支持 NVIDIA 的 Agent Safety Platform,它在三个关键领域解决安全问题:应用层、运行时和基础设施。

作为 NVIDIA OpenShell 的启动合作伙伴以及 Open Secure AI Alliance 的一员,我们正携手推进开放、安全的前沿,包括支撑生产环境中智能体的技术栈。

在 Baseten,我们相信开放性是 AI 安全的一项优势。我们持续投入,为开放前沿构建覆盖推理、训练和沙箱的安全控制。

Base Labs 开发并发布用于训练和监控开放模型的方法,而 Baseten 将这些工作集成到我们的运行时部署基础设施中。我们最近与 Base Labs、Hugging Face 和 Goodfire AI 共同启动了安全基础设施工作,正是出于这一思路;加入 Open Secure AI Alliance 延续了这一承诺。

只有当监控信号与权限、隔离以及智能体执行代码前的检查相连接时,监控才有帮助。Blaxel 的沙箱和网络层正是为在 Baseten 上运行的智能体提供这些控制的地方。Blaxel 还支持 OpenShell,这是 NVIDIA 的开源运行时,在内核层面执行策略;OpenShell 与智能体运行所用的计算资源无关。

我们收购了 Blaxel,以构建面向未来数万亿智能体的云平台。Baseten 构建用于训练和提供模型的基础设施,而 Blaxel 则是智能体行动所需的执行层:microVM 沙箱、持久存储以及具有严格访问控制的网络。

今天我们推出 Carbon 的私有预览,这是 Blaxel 的第四代基础设施,旨在支持生产环境中的数万亿智能体。Carbon 即将登陆 Baseten,将为 Baseten 平台上智能体工作流的沙箱及更广泛的执行基础设施提供骨干支撑。

当 Astra 级智能体编写并运行自己的代码时,硬件级隔离成为必需(我们此前已撰文说明,一旦智能体开始生成自己的代码,容器为何会失效)。Carbon 仍运行在 microVM 上,每个 Carbon 沙箱都拥有自己专用的 IPv6 地址。本十年内,将有数十亿到数万亿个智能体并行运行;IPv6 是唯一有充足地址空间的寻址方案。

Carbon 比我们此前构建的任何一代基础设施都更加灵活、更可配置。除 IPv6 外,Carbon 随附的主要功能还包括面向智能体的内核能力与运行时策略执行、手动快照、分叉,以及从快照到生产的毫秒级直接路径。

由于 Carbon 为沙箱带来了额外的内核能力,它可以直接在沙箱内运行更重的运行时软件。这为专为前沿智能体 AI 打造的新一代工具打开了大门,包括 NVIDIA 新发布的 OpenShell。我们构建了一个即用型模板,让你可以启动一个已预装 OpenShell 的 Carbon 沙箱。

如果 OpenShell 在任务中途标记并隔离某个智能体,Carbon 的快照意味着你可以立即回滚到最后一个已知良好状态,而不会丢失本次运行。

Carbon 目前处于私有预览阶段,正按区域和工作区逐步推出。完整的快照与分叉 API 参考可在 Blaxel 文档中查阅。

后续文章将深入探讨 Carbon 沙箱内外的安全、分叉与快照工作流,以及 Carbon 所开启的应用模型。如果你已在使用 3.0 并希望获得 Carbon 访问权限,请联系我们!

随时了解模型性能、推理基础设施等最新动态。

来源

Baseten 工程博客