Dell CFO 谈金融服务 AI 规模化：先为 token 做预算，再追求速度
Dell CFO David Kennedy 表示，企业 AI 正从试验走向生产，多数 CFO 已为 token 支出设立专门预算项，但真正的价值驱动是速度与生产力，而非控制成本。Dell 客户中已有 6,500 个 AI factory，5 月还扩展了与 Nvidia 合作的 AI Factory；重复性财务工作流可改用本地开源权重模型，把可变 token 成本转为固定成本。
匹配字段摘要、正文
←搜索结果
搜索“NVIDIA”
Inception 发布扩散语言模型 Mercury 3，称速度达 GPT-6 Luna 的 8 倍
Inception AI 发布旗舰扩散语言模型 Mercury 3，在自家 12 项基准中 8 项超过 GPT-6 Luna 和 Claude Haiku 5.5，速度为其 4 到 8 倍。官方称在 NVIDIA GPU 上达到每秒 1068 tokens，Haiku 5.5 约 240、GPT-6 Luna 约 130；上下文窗口提升至 100 万 tokens，参数量未披露，仅称超过 Mercury 1 的 40 倍。定价为每百万输入 tokens 20 美分、输出 70 美分，发布期五折，可通过 Inception 平台及 OpenRouter、Baseten、Vercel 调用。
匹配字段摘要、正文
DeepSeek 开源生产推理框架 DeepInfer
DeepSeek 开源了支撑其生产服务的推理框架 DeepInfer，采用 Apache 2.0 许可证发布在 GitHub 上。目前该框架只支持 DeepSeek-V4.1-Flash 一个模型，默认加载周末发布的 1017 版本，可运行在 Nvidia SM100 Blackwell GPU 和华为昇腾 950 NPU 上，不支持 Hopper 等较旧的 Nvidia 架构。DeepSeek 称单个集群每天服务 155 万亿 token，并暂未开源与内部基础设施强耦合的 KV cache 管理和负载均衡代码。
匹配字段摘要、正文
AI Had Better Work Out：AI 泡沫与美股集中度风险
Apollo 首席经济学家 Torsten Slok 警告“AI 这件事最好能成，否则我们会出问题”，Ed Zitron 据此量化 AI 泡沫风险：NVIDIA、Google、Amazon、Meta、Microsoft、Broadcom、Micron、AMD 与 CoreWeave 合计占 NASDAQ 100 约 46.5%、占 NASDAQ Composite 约 39.3%，NVIDIA 单独占 11.31%。散户持有约 10% 的市场资产，直接持有 NVIDIA 约 26.2%、Microsoft 约 21.8% 的股票，2026 年至今散户交易量占比达 20.3%。
匹配字段摘要、正文
可编程数据中心：SF Compute CEO Evan Conrad 谈 GPU 合约的物理交割与独立算力市场
SF Compute 正从转租 GPU 集群扩展到自建云运营能力，以实现 GPU 合约的物理交割——买家拿到的是可用算力，而非按指数结算的现金。CEO Evan Conrad 认为，拥有大型硬件或推理业务的公司难以运营中立交易所，因此 NVIDIA 无法自建这一市场。SF Compute 通过匹配不同约束条件的订单让算力在技术迭代期可交易，并支持按需切分 InfiniBand 网络结构。
匹配字段摘要、正文
DeepSeek 开源生产推理框架 DeepInfer，支撑 DeepSeek-V4.1-Flash
DeepSeek 以 Apache 2.0 协议开源了其生产服务所用的推理框架 DeepInfer，该框架目前只支持 DeepSeek-V4.1-Flash，运行在 NVIDIA SM100 和华为昇腾 950 上。官方称单个集群每天可服务 155 万亿 token，在 131,072 上下文、64 卡解码配置下解码吞吐超过 25,000 tokens/s/GPU。此次发布仅覆盖离线推理，KV cache 系统、P/D 分离和负载均衡未包含在内，DeepSeek 表示这些组件与内部基础设施紧密耦合。
匹配字段摘要、正文
Artificial Analysis：美国开源权重模型上周在智能与参数效率上双双提升
Artificial Analysis 汇总称，美国开源权重模型上周在智能水平和参数效率上均有提升。NVIDIA 发布 Nemotron 3.5 Bolt 和 Nemotron 3.5 Super VL，后者以 120B 参数在 Intelligence Index 上得分 26.5，将 Inkling Small 挤出帕累托前沿；Meta 的 Muse Spark Open 得分 38.9，比 Super VL 高 12 分以上，是美国开源权重模型迄今最高智能得分；Reflection 的首个模型 Beam 1.0 以 501B 参数得分 30.3，落在 Super VL 与 Muse Spark Open 之间。
匹配字段摘要、正文
DeepSeek 以 Apache 2.0 开源推理引擎 DeepInfer
DeepSeek 以 Apache 2.0 许可证开源了其生产服务所用的推理引擎 DeepInfer，8 小时内获得 6.3K+ stars。该版本只支持 DeepSeek-V4.1-Flash，运行在 NVIDIA SM100 GPU 或华为昇腾 950 芯片上，覆盖离线推理而非完整服务栈，缺少 KV cache、prefill 与 decode 分离以及副本间负载均衡。随附的加速层包含 DSpark，可提前草拟最多 5 个 token 并用置信度估计安排验证；bounded replay 只重算 140 token 后缀以覆盖滑动注意力窗口，从而压缩 prefill。配套库 deepseek-recipe 将把 Chat Completions、Responses 和 Messages 请求转换为与官方 API 行为一致的 DeepSeek V4 与 V4.1 提示词。
匹配字段摘要、正文
Daytona 完成 6000 万美元 B 轮融资，估值达 10 亿美元
为 AI 智能体提供云端沙箱的 Daytona 完成 6000 万美元 B 轮融资，估值 10 亿美元，由 FirstMark 领投，累计融资约 9100 万美元。其客户包括 Anthropic、OpenAI、Nvidia、Cursor、Cognition、Meta 和 Cohere，CEO Burazin 称公司收入运行率在 1 月至 9 月间增长 25 倍。Daytona 称可在 60 毫秒内为智能体配置一台新沙箱，做法是预先将配置好的机器快照分发到服务器物理磁盘上。
匹配字段摘要、正文
llm-d 1.0 在 PyTorch Conference 发布，面向生产环境的推理栈
llm-d 项目在 PyTorch Conference North America 上发布 1.0 版本，这是一个 Kubernetes 原生的分布式推理服务栈，由 Red Hat、IBM 和 Google 主导维护，CNCF 以沙箱项目托管。1.0 版本新增多租户服务质量保障，包括按优先级和公平性调度的流控与可控降载，并支持路由器热备、安全滚动更新，以及把 prefill 和 decode 副本作为整体管理的 DisaggregatedSet 控制器。项目公布的测试显示，在 544 张 NVIDIA H100 上部署 GLM-5.2 可服务最多 3000 个并发编码智能体且零抢占，按当前云租赁价格计算，每 token 成本比同等商业 API 低 5 到 10 倍。
匹配字段摘要、正文
AMD：实时控制与可靠性才是物理 AI 的关键
AMD 高管 Salil Raje 提出，物理 AI 的性能评估应从原始算力转向实时控制与系统级可靠性。AMD 以 Kria AI SOM、Versal、Zynq 和 Spartan FPGA 构建异构架构，第三方测试中 Kria AI SOM 推理时间低于 0.1 秒、每秒支持 8,000 次控制决策；在开放导航基准中，Ryzen AI Embedded 配置的控制时序可靠性最高达 Nvidia Jetson T5000 的 3.4 倍，可用算力余量高 1.6 倍。
匹配字段摘要、正文
DeepSeek 开源高性能推理框架 DeepInfer
DeepSeek 开源了支撑其线上服务的高性能推理框架 DeepInfer，采用 Apache 2.0 许可证，本次聚焦离线推理，主要基于 vLLM 构建并借鉴 SGLang 和 TensorRT-LLM。它把此前分散开源的 FlashMLA、DeepGEMM、DeepEP、EPLB 等内核集成为完整引擎，补齐调度、并行与投机解码等系统层，同时支持 NVIDIA SM100 GPU 和华为昇腾 950 NPU。原文还拆解了 DSpark 投机解码、YoCo SWA 有界重放、异步调度、批不变确定性推理和 regex/JSON schema/EBNF 结构化输出等设计。
匹配字段摘要、正文
Anthropic 洽谈与 Nscale 的第二笔 450 亿美元算力交易，西弗吉尼亚预订翻倍至 920 MW
Anthropic 正与 Nscale 洽谈第二笔 450 亿美元算力协议，将把西弗吉尼亚的预订规模翻倍至 920 MW，新增的是 Monarch Compute Campus 中另一栋 460 MW 建筑，运行 Nvidia 的 Vera Rubin 芯片，Anthropic 还持有该园区预计第三栋建筑的第一优先购买权。首份合同于 8 月签署，为 6 年期 460 MW 租约，2027 年底开始交付，年均约 75 亿美元，约合每 MW 1630 万美元。Nscale 的 IPO 文件列出与 Anthropic 的协议价值最高约 446 亿美元，第二笔交易的价值取决于 Monarch 首栋建筑和 Vera Rubin 机架能否在 2027 年底按期通电。
匹配字段摘要、正文
摩根士丹利：2027 年超大规模厂商与新云 AI 支出达 1.58 万亿美元
摩根士丹利将数据中心租约计入资本开支后，估算 2027 年超大规模厂商与新云厂商的 AI 支出为 1.58 万亿美元。超大规模厂商持有超 1.1 万亿美元尚未开始的租约，这类租约类似债务融资采购却不计入资本开支。其中约 65%（约 1.03 万亿美元）落入标普 500 收入，Nvidia 拿走约 6900 亿美元、占整个预算的 44%，其余 499 家成分股约分得 3400 亿美元，另有约 5500 亿美元流向韩国存储厂商、台湾 ODM 和私营公司。2027 年预计为现金流缺口峰值，靠项目债和可转债融资建设的 GPU 租赁新云对融资成本最为敏感。
匹配字段摘要、正文
美国国土安全部要求联邦民事机构清除 DeepSeek
美国国土安全部以国家安全为由，要求联邦民事机构从系统中清除 DeepSeek 及相关第三方服务。该部门警告称，使用这一中国 AI 模型存在向北京传输敏感数据的风险，模型还可能带有恶意软件或安全漏洞。发布者随后以讽刺口吻追问下一步是否会禁止 NVIDIA 芯片运行 DeepSeek。
匹配字段摘要、正文
蚂蚁 inclusionAI 开源 vLLM-Omni 全模态模型推理服务框架
蚂蚁 inclusionAI 在 GitHub 发布 vLLM-Omni 仓库，这是一个在 vLLM 基础上扩展全模态模型推理与服务的框架，支持文本、图像、音频、视频和动作数据处理，并支持 DiT 等非自回归架构。README 显示其已迭代至 0.30.0，对齐 vLLM 0.30.0，新增 MiniCPM-o 4.5 与 AURA 的全双工会话服务、Mooncake AR-to-DiT 跨阶段 KV 与多模态传输，以及在 NVIDIA Blackwell 和昇腾 950 上的 MiniMax H3 Turbo 实时推理。框架提供 OpenAI 兼容 API 服务、流式输出和分布式并行推理，并列出 Qwen3-Omni、MiniMax H3、Wan2.2、π0.5 等已支持模型。
匹配字段摘要、正文
Nebius AI Builder 计划扩展至欧洲，提供 1000 万美元算力资助
Nebius 将 AI Builder Program 扩展至欧洲，联合 NVIDIA、Accel 及其他欧洲 VC 提供合计 1000 万美元的算力资助、资金与社区项目支持。计划免费加入，开发者可获得在 Nebius 上运行开源模型的 credits，入选项目还可在 Token Factory 获得算力资助。欧洲版额外支持需要更多算力或资金的大型开源项目，并与 AI Tinkerers、{Tech: Europe}、ESRA 等社区举办黑客松和 demo day。
匹配字段摘要、正文
Nebius 投入 1000 万美元支持欧洲 AI 开发者
Nebius 的 AI Builder Program 将向欧洲扩展，提供总额 1000 万美元的支持，涵盖算力资助、资本和社区项目。算力资助面向开源模型、编程智能体、后训练和评测等方向；此外还提供与 Accel 等欧洲风投的对接，以及与 NVIDIA、AI Tinkerers 等社区合办的黑客松和 demo day。
匹配字段摘要、正文
微软因电力接入延期终止 Nscale 英国 Loughton 数据中心合同
微软终止了与 Nscale 位于英格兰 Loughton 的 AI 数据中心合同，原因是该站点预期的电力接入出现延期。该项目于 2025 年公布，规划为 50 MW、可扩展至 90 MW，并计划为 Microsoft Azure 部署 23,040 块 Nvidia GB300 GPU。据 The Guardian 报道，UK Power Networks 告知 Nscale 最早要到 2030 年代初才能提供足够电力；Nscale 表示仍将保留该站点，正探索替代电力来源，此事不影响其与微软的其他合同。
匹配字段摘要、正文
Laplace Intelligence 为机器人和自动驾驶汽车做部署前的红队测试
密歇根大学孵化的 Laplace Intelligence 正在为机器人和物理 AI 构建自动化红队测试，用基于 Nvidia Cosmos 后训练的高保真仿真环境加 AI 智能体自动设计 corner case，在部署前发现并修复问题。公司已产生营收并小幅盈利，客户包括自动驾驶卡车公司 Bot Auto 和一家日本大型车企，并与 Nvidia、T-Mobile 在加州圣何塞开展免费智慧城市试点。
匹配字段摘要