←News detail

East MoneyUpdated Oct 25 00:30

Jensen Huang at Berlin GTC: AI Factory Deployment Shortened to as Fast as 14 Days, OpenShell Agent Security Architecture Released

English text is being prepared.

AI summary

On October 21 local time, NVIDIA CEO Jensen Huang unveiled the DSX POD AI factory solution at the GTC conference in Berlin, saying that when on-site supporting conditions are in place, the deployment cycle can be shortened from about six months to as fast as 14 days; the solution is planned to begin delivery by global partners in early 2027. He also said that the AI chip platform Vera Rubin has entered full production, and under Agent workloads, Vera Rubin NVL72 can achieve up to 30 times the throughput per megawatt of the previous-generation Blackwell platform. NVIDIA also released the OpenShell reference architecture for enterprise Agents, providing runtime isolation and behavior monitoring, with Anthropic, Amazon Web Services, Microsoft, Google Cloud, OpenAI and other companies participating in the collaboration.

Why read this

AI score 62

Jensen Huang gave specific figures on AI factory costs and delay losses, and explained why agent security is treated as an engineering problem.

Topics

Tags

Body

文章主体 EM_StockImg_Start

EM_StockImg_End

当地时间10月21日,英伟达CEO黄仁勋在柏林GTC大会上发表演讲,重点展示了面向新一代AI基础设施的系统架构、模块化AI工厂方案,以及为自主Agent(智能体)构建的安全防护体系。

黄仁勋回顾了英伟达过去十余年的技术演进历程。他表示,在过去11年间,通过“极致协同设计”,公司将AI性能提升了100万倍。

黄仁勋指出,AI芯片平台Vera Rubin现已“全面投产”,每个节点的组装时间不到5分钟,而上一代Grace Blackwell则需要2小时。同时,Vera Rubin无须任何电缆并采用100%液冷设计,意味着其组装速度能够提高超过24倍。

黄仁勋展示Vera Rubin计算节点。来源:直播

Vera Rubin还针对Agent的完整工作流程进行了优化。公司表示,在Agent工作负载下,Vera Rubin NVL72系统的每兆瓦吞吐量可达到上一代Blackwell平台的30倍。

不过,芯片性能只是AI基础设施的一部分。在演讲中,黄仁勋强调称“AI工厂只有开始生产Token(词元),才能创造价值”。他表示,一座功率规模为1吉瓦(GW)的AI工厂造价约为500亿美元,涉及土地、电力、建筑、计算、网络、存储及冷却等多个环节。

根据计算,这样一座AI工厂每年可能产生约400亿美元收入,若部署延误三个月,就可能对应约100亿美元的收入损失。

为缩短AI基础设施从建设到实际产生计算收入的周期,英伟达当天推出全新的DSX POD AI工厂解决方案。据介绍,一个DSX POD方案包含七个液冷计算机架、约17公里的Spectrum-X线缆,采用800伏直流供电。相关系统将在交付前完成集成、布线与测试,抵达现场后连接已经准备就绪的供电、制冷和网络设施。

黄仁勋表示,在现场配套条件已经具备的情况下,DSX POD有望将现场部署周期从约六个月缩短至最快14天。该方案计划于2027年初由全球合作伙伴开始交付。将更多集成和测试工作前移至工厂,不仅能缩短建设时间,也有望降低现场施工的不确定性和计算资源闲置所造成的成本。

借本次柏林GTC大会,黄仁勋也“喊话”欧洲,呼吁各国加速投入AI:“为了让欧洲从AI中受益并真正建立AI生态系统和AI经济,需要所有的终端行业去拥抱AI……每一个行业都必须转型为AI公司。”

据介绍,此前一周,英伟达在欧洲多个城市开展活动,公司已向欧洲科技生态投入近100亿美元,并与超过1.2万家合作伙伴开展合作。

Agent推动算力与安全需求共同升级

此外,英伟达当天宣布,全球领先的电信运营商正在将其网络转变为分布式智能平台,将英伟达加速计算引入集中式数据中心、城域站点和蜂窝站点。

Agent是黄仁勋本次演讲的另一大重点。黄仁勋解释道:“由于Agent能够思考、推理、迭代并使用工具,会消耗海量的词元,对GPU的需求由此迎来爆发式增长。”

黄仁勋引用OpenRouter数据,平台上来自agent的词元需求大增。来源:直播

不过,随着Agent能够操作的范围越来越大,安全风险也从生成错误内容,进一步延伸到未经授权的数据访问和系统操作。

黄仁勋犀利地指出:“如今,唯一能防止智能体滥用权限的方法竟然是礼貌地请求它:‘请不要删除任何东西,请不要动我的SSH密钥。’这种叫‘请勿打扰’式防护。但祈祷不是安全,安全不是一种愿景,它是一项技术与工程问题。”

针对这一问题,英伟达发布面向企业部署的OpenShell参考架构,为企业级Agent提供运行隔离与行为监控。该架构整合Vera Rubin基础设施、Vera CPU、BlueField-4数据处理器(DPU)及OpenShell安全运行时软件。据介绍,Anthropic、亚马逊云科技、微软、谷歌云、OpenAI等企业正在参与这一安全架构的合作。

在模型层面,黄仁勋强调,未来企业不会只依赖单一模型,而将根据任务需要同时使用闭源模型、开放权重模型以及基于企业自身数据定制的模型。他还特别强调,企业知识将成为提升Agent实际工作能力的重要因素。

东财图解·加点干货

(文章来源:澎湃新闻) 正文中部 内嵌广告

Source

East Money