Akamai 推出 AI 推理与 Agent Sandbox 服务
Akamai 发布 Akamai Inference 和 Akamai Agent Sandbox 两项服务:前者通过 OpenAI 兼容 API 提供 12 个开放权重模型,参数量从 8B 到 2.8T,包括 NVIDIA Nemotron 3 Ultra、OpenAI gpt-oss-120b 和 Google Gemma 4;后者基于 WebAssembly 隔离运行 AI 智能体生成的代码,并以 Spin 框架开源组件形式发布。Akamai 同时扩充 NVIDIA Blackwell Ultra GPU 集群,每个八卡节点配备 2.3 TB HBM3e 内存。
的隔离来对计算、内存、出站网络连接和系统能力实施限制。 该沙箱作为Spin框架的开源组件发布。该公司表示,计划增加更多功能,以管理AI智能体可以访问哪些内容以及哪些系统可以与其交互。 “每个运行智能体的团队都需要围绕这些智能体编写的代码设置边界,”Akamai云技术高级副总裁Jon Alexander表示。 “有些团队希望本季度在托管平台上发布一项AI功能。其他团队则需要专用GPU,按照自己的方式运行前沿级开放模型,”他补充道。 除了这两项服务外,Akamai还通过NVIDIA Blackwell Ultra集群扩充了其专用GPU集群,并正在为其数据中心做好准备,以在2027年支持NVIDIA的Vera Rubin平台。 其GPU基础设施还包括用于低延迟推理的NVIDIA RTX PRO 6000 Blackwell服务器版GPU。专用集群面向希望在自己控制的基础设施上构建、微调和托管模型的企业。 Akamai表示,每个八GPU的Blackwell Ultra节点为每个GPU提供288 GB的HBM3e内存,整个节点为2.3 TB。该基础设施旨在支持涉及推理、长上下文处理和AI智能体的
匹配字段正文