Reflection 最强模型落后于中国同行
Reflection 加入了 Nvidia 和 Thinking Machines 的行列，它们发布了自家最强模型，却落后于中国同行。人们有很多种方式过度解读这件事，但最清晰的结论应该是：中国人在构建 LLM 方面非常非常强。
匹配字段摘要、正文
←搜索结果
搜索“NVIDIA”
DeepSeek 开源华为昇腾工具链，Manus 2.0 重启智能体大战
DeepSeek 开源了一整套面向华为昇腾芯片的软件工具，直接冲击 Nvidia 的 CUDA 生态锁定。Manus 以 Manus 2.0 重启，推出常驻个人智能体 Cue，估值翻倍至 40 亿美元，智能体可拥有独立电话号码和钱包。蚂蚁集团预览约 5600 亿参数 MoE 模型 Ling-3.1-flash（约 250 亿激活），支持最高 100 万 token 上下文并计划开源。
匹配字段摘要、正文
Aleph Alpha 研究：Qwen、DeepSeek、Kimi 等中国 AI 模型在敏感话题上复述官方立场或拒答
Aleph Alpha 用自建基准测试了阿里 Qwen、DeepSeek 和月之暗面 Kimi 的模型，覆盖天安门、台湾、新疆等 967 个敏感话题，其评分系统仅将 17% 至 41% 的回答评为平衡，其余为复述官方立场、回避或拒答。研究还发现这种亲中倾向会出现在与中国无关的问题上，例如 Qwen 3.6 在回答美国审查问题时以维护中国互联网治理立场收尾。Nvidia 的 Nemotron Cascade 2 有 17% 的回答呈现类似倾向，Aleph Alpha 将其归因于 930 万条训练样本中约 3500 条由 DeepSeek 和 Qwen 生成。
匹配字段摘要、正文
Tavus 预览 Griffin 实时视频交互模型
AI 初创公司 Tavus 预览了 Griffin，一个可在实时视频中观看、聆听、说话并作出反应的 Human Interaction Model。Tavus 称在面对面测试中，48% 的参与者认为对话对象是真人，此前模型这一比例仅为 2.4%；该模型在 NVIDIA 的 VideoFDB 视频聊天测试中与真人相差 0.09 分，并领先次优 AI 模型超过 1 分。目前仅 Griffin-Lite 向受信任测试者开放，用于继续完善安全与披露功能，后续再公开推出。
匹配字段摘要、正文
Prime Inference 发布：面向前沿开源模型的高可靠推理服务
Prime Intellect 发布 Prime Inference，提供 serverless 端点和预留容量，在多个数据中心的 GPU 基础设施上服务前沿开源模型。首个公开部署 GLM-5.3 于 9 月 22 日上线 OpenRouter，工具调用错误率接近零、上线以来 100% 可用。该服务基于 NVIDIA Dynamo、vLLM、Mooncake 和 FlashInfer，兼容 OpenAI SDK，在 GB200 NVL72 上以 1:4 的 P/D 比例实现每组 66 个会话、101 tok/s/user。
匹配字段摘要、正文
OpenRouter 推出 Model Router Benchmarks 路由基准测试页
OpenRouter 上线 Model Router Benchmarks 页面，对 Auto Router、Free Models Router、Unbiased Pareto、Sakana Fugu、Jev Router、NVIDIA Switchyard 等路由从质量、速度、成本三个维度打分，并给出 0 到 10 的 Router Index（默认质量 60%、单任务耗时 20%、成本 20%，权重可拖动滑块调整）。页面同时列出 DeepSeek v4 Flash 与 GPT-6 Astra 等单模型作为基线，例如 GPT-6 Astra 每 token 平均价格高出 48 倍以上、在 Codex 中跑 10 到 49 轮会话贵 21 倍。所有被评测路由均可在 OpenRouter 上直接替换模型使用。
匹配字段摘要、正文
OpenRouter 推出 Model Router Benchmarks 路由器评测页
OpenRouter 上线 Model Router Benchmarks 页面，用跨领域基准对各家模型路由器按质量、速度和成本打分，并列出单模型作为对照基线。页面引入 Router Index，默认按质量 60%、每任务耗时 20%、成本 20% 合成 0 到 10 分，权重可用滑块调整。被评测的路由器包括 OpenRouter 的 Auto Router、Unbiased 的 Pareto、Sakana 的 Fugu、Jev Router 和 NVIDIA 的 Switchyard，均可在 OpenRouter 上直接替换模型调用。
匹配字段摘要、正文
PyTorch 用 TLX 优化 Jagged Flash Attention：迈向 Blackwell 上的 SOTA FA4
PyTorch 博客展示了用 TLX（Triton Low-level Extensions）在 NVIDIA Blackwell（B200）上优化 Meta 生成式广告模型 GEM 的 Jagged Flash Attention 内核。该内核约 3.2K 行 Triton 级代码，比约 10K 行的 CuteDSL 版 FlashAttention-4（FA4）少约 3 倍，在 GEM 关注的 jagged 形状上前向快约 13%、反向快约 50%。
匹配字段摘要、正文
Tavus 推出实时视频对话模型 Griffin，48% 测试者误认其为真人
Tavus 推出名为 Griffin 的 Human Interaction Model，可在实时视频通话中同时接收和生成语音、面部表情、语气、手势与停顿。Tavus 研究显示，48% 的参与者在一次一分钟视频通话后认为 Griffin 是真人，此前系统最高为 2%。在 Tavus 称为 Nvidia 独立测试的拟人度评分中，Griffin 得 3.83 分，真人为 3.92 分，此前最佳 AI 模型为 2.80 分。名为 Griffin-Lite 的预览版已向部分测试者开放，能力更强的版本将在安全问题解决后推出。
匹配字段摘要、正文
Prime Intellect 推出 Prime Inference，为前沿开源模型提供无服务器与预留推理服务
Prime Intellect 发布 Prime Inference，为前沿开源模型提供无服务器端点和预留 GPU 容量，支持 OpenAI SDK 接入 https://api.pinference.ai/api/v1，并具备跨数据中心自动故障转移。该平台在公开发布前内部日均处理近一万亿 token，负载来自 RL rollout、合成数据生成、评测和长时间运行的编码智能体。其服务栈结合 NVIDIA Dynamo、vLLM、Mooncake 和 FlashInfer，采用预填充与解码分离部署，测试中 p90 词元间延迟降低近 40%，GLM-5.3 在 GB200 NVL72 上以 1:4 预填充解码比实现每组 66 个会话、每用户 101 tok/s。
匹配字段摘要、正文
PyTorch 用 Helion 为 vLLM 构建高性能可移植线性后端
PyTorch 将 Helion 集成进 vLLM 的线性后端，用单个 Helion GEMM 实现覆盖 Standard GEMM、Split-K 和 Swap-AB 等变体，并通过按 shape 自动调优选择最佳配置。在 NVIDIA Hopper GPU 上，该后端结合按 shape 调优与混合调度，在评测模型中超过 vLLM 默认的 CUTLASS 和 DeepGEMM 后端，部分工作负载吞吐提升超过 10%。
匹配字段摘要、正文
Ai2 发布 Olmo-core 3：面向大规模 MoE 的开源可扩展训练基础设施
Ai2 发布 Olmo-core 3，这是其大语言模型开发框架的一次重大升级，核心是重新设计的开源 MoE 训练系统，目标是把 MoE 训练扩展到万亿参数级别并保持计算效率。在八块 NVIDIA B300 GPU 的初步测试中，470 亿参数 MoE 达到每 GPU 每秒 52,000 tokens，约为此前 FSDP 实现 19,400 的 2.7 倍；该基础设施已在超过 1 万亿总参数规模上完成基准测试。Olmo-core 3 从 FSDP 转向基于 DDP 的系统，让专家常驻 GPU 并把数据路由过去，同时采用 rowwise expert parallelism、GPU-resident routing、grouped GEMM 和 MXFP8 低精度格式，其中 MXFP8 在四块 B300 上的端到端吞吐比 BF16 高约 21%，峰值活动显存从 103 GiB 降至 95 GiB。Ai2 表示下一代 Olmo 将采用 MoE 架构，Olmo-core 3 完全开源，研究者可用于训练自己的 MoE。
匹配字段摘要、正文
AI2 发布 Olmo-core 3：面向大规模 MoE 的开源可扩展训练基础设施
AI2 发布 Olmo-core 3，一套面向大规模 MoE 模型的开源训练基础设施，从早期基于 FSDP 的实现改为基于 DDP 的系统，让专家常驻 GPU 并把数据路由到对应专家。在八块 NVIDIA B300 GPU 的初步测试中，470 亿参数 MoE 达到每 GPU 每秒 52,000 tokens，约为旧实现 19,400 的 2.7 倍；在四块 B300 上启用 MXFP8 后吞吐比 BF16 高约 21%，峰值活跃显存从 103 GiB 降至 95 GiB。该栈支持专家并行、流水线并行、分布式优化器、行级专家并行、GPU 常驻路由与分组 GEMM，并已在 512 块 GPU 上测试 1.2 万亿参数模型，最高观测吞吐 858 TFLOP/s/GPU。
匹配字段摘要、正文
Ataraxos 在 Stratego 上击败人类最强选手，训练成本不到 8000 美元
卡内基梅隆、纽约大学、斯坦福和 MIT 团队在 Nature 发表论文，提出 Stratego AI 系统 Ataraxos，在 20 局正式系列赛中以 15 胜 1 负 4 平击败荷兰选手 Pim Niemeijer，作者称这是首个在该棋类达到超人水平的 AI。训练仅用 16 块 Nvidia H100 GPU 一周加 4 块 GPU 四天，按 2025 年价格算不到 8000 美元，约为 DeepMind DeepNash 算力成本的 1/500。该方法还用于 Barrage Stratego、Hanabi 和斗地主，代码已公开。
匹配字段摘要、正文
Cerebras：快速推理找到节奏
Cerebras 回顾 2025 年：DeepSeek R1 Llama 70B 在其芯片上以超过 1500 tokens/秒运行，约为 GPU 的 57 倍；Artificial Analysis 独立测试显示其推理性能超过 NVIDIA Blackwell 的纪录。Cognition 的 SWE-1.5 与 SWE-grep 系列实现前沿级编码性能，速度最高达通用模型的 13 倍。Cerebras 在俄克拉荷马州启用 40+ exaflop 数据中心，并在北美和欧洲布局超过 7 个数据中心。
匹配字段摘要、正文
Baseten 工程博客新闻汇总：与 OpenAI 合作、GLM-5.2 Fast 上线
Baseten 宣布与 OpenAI 建立合作，并推出 GLM-5.2 Fast。其博客还列出多项动态：用 Baseten Loops 基于 LangSmith traces 微调、LangChain 为 LangSmith Engine 训练定制模型、Blaxel 加入 Baseten 共建智能体基础设施，以及 NVIDIA OpenShell 与 Blaxel 沙箱、Sheila Vashee 出任 CMO、完成 Series F 融资。
匹配字段摘要、正文
Baseten 工程博客 AI 模型文章列表
Baseten 工程博客的 AI 模型栏目汇集多篇模型与推理工程文章，包括 NVIDIA Nemotron 3 Diarization 实现每音频小时一美分的实时说话人标注、DeepSeek-V4.1-Flash 面向编码智能体的更高效 prefill，以及 NVIDIA Nemotron 3.5 Lightning、Nemotron 3.5 ASR Streaming、Nemotron 3 Embed 等新模型介绍。此外还涵盖 GLM-5.3 后训练扩展、GLM 5.2 视觉能力、Laguna S 2.1 与开源后训练模型推荐等主题。
匹配字段摘要、正文
Baseten 工程博客社区文章汇总
Baseten 工程博客社区栏目汇集多篇文章，涵盖为 You.com 提供开源推理、Notion 与 Gamma 的 AI 模型选择经验、持续学习时代的推理、模型微调与好莱坞对谈、NVIDIA Dynamo Day 上的 Baseten 推理栈，以及用 LangChain Agent Builder + GLM 4.7 在 Baseten 上构建智能体等内容。
匹配字段摘要、正文
Hao AI Lab 发布 FastVideo FastH3，基于 MiniMax H3
UCSD Hao AI Lab 发布 FastVideo FastH3，基于 MiniMax H3 构建，并感谢 MiniMax 开源其权重与代码。在 8× GB200 上，5 秒 1344×768 带音频片段 3.1 秒输出成品 MP4，10 秒片段 6.3 秒（NVFP4 下 5.4 秒），负载下每天约 11,000 条视频，8× RTX PRO 6000 上约 3,400 条。UniServe 还作为 NVIDIA Dynamo 的实验后端，通过 uniserve-dynamo-worker 嵌入其 Rust 调度器与引擎。
匹配字段摘要、正文
CoreWeave 推出 Forge 平台，从 GPU 基础设施转向全栈 AI 云
CoreWeave 在旧金山 Fully Connected 活动上发布 CoreWeave Forge，一个用于开发、运行和持续改进 AI 模型与智能体的集成软件平台，即日起提供 Free、Pro、Enterprise 三个版本。Forge 把训练、推理、评估、可观测性和智能体开发整合为围绕 AI 循环的软件栈，并推出包含 VAST Data、CrowdStrike、ClickHouse 的合作伙伴网络。硬件方面，Nvidia Vera Rubin NVL72 已在其云平台上线，Cognition 成为首个客户并在两天内跑起负载；Nvidia Vera CPU 面向 AI 智能体处于早期开放阶段。
匹配字段摘要、正文