搜索“推理”

Moonshot AI 开源 Kimi Vendor Verifier

Moonshot AI(月之暗面)开源了 Kimi Vendor Verifier(KVV)项目,用于帮助开源模型用户校验推理实现的准确性。该项目随 Kimi K2.6 模型发布,包含六项基准测试,覆盖 API 参数约束预校验、OCRBench、MMMU Pro、AIME2025、K2VV ToolCall 与 SWE-Bench,其中 SWE-Bench 因依赖沙箱未开源。官方称已在 Two NVIDIA H20 8-GPU 服务器上完成全流程验证,顺序执行约需 15 小时,并已针对流式推理、自动重试和断点续跑优化脚本。目前尚无后续发展事实。

Cerebras 发布第四代系统 CS-4

2026年8月18日,Cerebras 发布第四代 Cerebras System CS-4。官方信息称,CS-4 由三颗 Wafer Scale Engine 3 Turbo 处理器构成,推理速度最高可达 GPU 系统的 30 倍,每瓦吞吐量最高为 CS-3 的 10 倍;晶圆间互联延迟最低 2 微秒,可在超过 10 万亿参数的模型上实现每秒 1000 token 以上,并原生支持解耦推理,可搭配 AMD Helios、AWS Trainium 等平台做 prefill。该系统基于新的 Cerebras Nexus 平台架构,组件数量减少 50%,首批出货于本季度开始。后续报道称,CS-4 未推出 WSE-4,而是采用超频版 WSE-3 Turbo,核心数与片上 SRAM 仍为 90 万核和 44GB,主频从 1.4GHz 提升到 2.8GHz,算力翻倍;新 Nexus 机架把计算晶圆与 AMD Epyc 主机 CPU 从供电和网络模块中拆出,三部分可独立升级,单机架算力为此前 CS-1 至 CS-3 的三倍,组件减少 50%,部署速度最多快 3 倍,部分客户已可提前使用,本季度晚些

Cerebras 开启 Kimi K2.6 企业客户试用

2026年5月19日,Cerebras 宣布在企业客户试用中运行万亿参数开源权重模型 Kimi K2.6。据 Cerebras 官方博客,Artificial Analysis 测得该服务输出速度达 981 tokens/s,比次快的 GPU 云快 6.7 倍、比中位推理服务商快 23 倍。在 10000 token 输入、生成 500 token 输出的请求中,Cerebras 用时 5.6 秒,官方 Kimi 端点为 163.7 秒,最终答案时间缩短 29 倍。技术实现上,Cerebras 将 Kimi K2.6 以原始 4-bit 权重存储、16-bit 浮点计算,权重分布到多块晶圆并靠片上网络做层间 all-to-all 通信。目前尚无后续发展事实。

Anthropic发布Claude Opus 5.5

2026年9月22日,Anthropic发布Claude Opus 5.5。官方材料称,该模型在Artificial Analysis的Intelligence Index v4.3上以58分排名第一,比Claude Opus 5高7分,在Vals AI的Vals Index上以69.69%居首;支持最高100万token输入、12.8万token输出,推理默认开启并分五档,API价格为每百万输入/缓存/输出token 4/0.25/20美元。早先报道称其输出价格为每百万token 20美元,低于上一代的25美元。9月23日,Yuchen Jin称其单任务速度比Opus 5快约30%、成本低约40%。9月25日,Thomas Wolf称用Opus 5.5把一份Google Doc生成为视频。10月4日,Ado Kukic表示在medium和high effort下使用Opus 5.5未触及5小时限额,单次会话最高约用到74%。10月9日,Ado又称Opus 5.5发布后的周末是今年迄今最高效的编程日。同期Anthropic还发布了Sonnet 5.5和Haiku 5.5,并下调Sonn

Architect推出Liquid Inference

2026年10月8日,Architect Financial Technologies推出Liquid Inference,这是一个对每次LLM推理请求进行实时拍卖的路由器。据MarkTechPost报道,提供方为指定模型报价,买方按最低且符合自身规则的报价成交。买方可在生成前锁定最高价格,并设置单任务成本上限、首token时延、最低吞吐、区域、零数据保留以及提供方或模型白名单等规则,计费仅按实际用量。该服务兼容OpenAI与Anthropic客户端,官方称支持Claude Code、Codex、OpenCode、Cursor、Pi和Cline,前500名用户可获20美元免费推理额度,推荐可获被推荐方费用的20%。目前尚无后续发展事实。

GLM 5.3上线Amazon Bedrock

2026年10月6日,Z.ai(智谱)的GLM 5.3模型在Amazon Bedrock上线。据AWS Machine Learning发布的信息,该模型为753B参数的MoE模型,面向编码与长程智能体任务优化。Bedrock提供全托管API,支持跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。官方称,相比GLM 5,GLM 5.3在DeepSWE、Terminal Bench 3.0、FrontierSWE等编码基准上具有竞争力,并在CyberGym基准上测得84.5分。同日,唐杰也在社交平台发布了GLM-5.3上线Amazon Bedrock的消息。目前该故事尚无后续发展事实。

Hao AI Lab开源Minecraft AI玩家Jev

Hao AI Lab开源了Minecraft智能体Jev,并在1,795轮对局后公布其工作方式。该智能体不训练模型,而是由SOTA LLM智能体在人工监督下,从机器人自身日志中进化提示词。在Block UHC对真人玩家时,它赢下70%的回合。据其说明,面对满技能脚本对手时,v1全败,不到两小时后v9全胜。每次决策为DJev在DiffusionGemma上的一次前向传播,不生成token,在NVIDIA Blackwell上耗时24 ms,团队称比某领先推理引擎快2.5倍。团队同时开源推理引擎DJev-serve,在GB200 NVL72和B200上以单个CUDA graph执行每次决策。

Perplexity开源七项AI项目

2026年10月3日,Perplexity开源了七项模型、推理工具与安全项目。据当时报道,其中包括多模态决策模型pplx-decider-v1-27b,在11项基准上平均85.7%,领先Jev;上下文嵌入向量模型pplx-embed-v2-context-9b-preview,在ConTEB和turbopuffer context-bench上表现最佳;面向Apple silicon的本地推理引擎Lily,用Rust加自定义metal kernel实现,在M5 Max上prefill比MLX-LM快1.23倍、decode快1.35倍;以及0.6B端侧PII分类器PII-Tracer及配套PII-TRACE基准、面向深度研究智能体的WANDR基准、笔记本与工作站智能体检测响应工具Numbat、只读供应链扫描器Bumblebee。2026年10月7日,Perplexity宣布其决策模型在Hugging Face Decision Index上登顶,并称该模型为开放权重。

Cognition成为NVIDIA Vera Rubin首个客户

2026年9月30日,CoreWeave宣布NVIDIA Vera Rubin NVL72系统搭配Spectrum-X 102.4T以太网正式在CoreWeave Cloud上线,Cognition成为首个在生产环境运行该系统的客户。据NVIDIA Blog同日报道,Cognition早期测试显示,Vera Rubin NVL72在SWE-2推理负载上的总token吞吐量最高达GB200 NVL72的4.8倍;CoreWeave还将提供首款面向AI智能体的CPU NVIDIA Vera,并推出统一模型与智能体训练、评估和改进的CoreWeave Forge。10月1日,Cognition在社交平台确认自己是首个运行NVIDIA Vera Rubin的客户,由CoreWeave提供支持,并称在相同解码速度下,新芯片在SWE-2推理上的token吞吐量比GB200高出约4.8倍。目前该事件仍处于Cognition作为首个客户运行Vera Rubin的状态,尚无进一步进展。

Manus推出Flex支持自带API密钥

2026年9月30日,Manus推出名为Manus Flex的新功能,允许用户自带API密钥,在Manus的智能体框架、工具和执行环境中使用受支持的模型供应商。同日公布的还有Manus Flex推理合作伙伴计划,首批推理合作伙伴为OpenRouter、Fireworks AI和Modal,目的是为用户提供更多模型选择。目前该功能已正式发布,具体使用方式与详情见官方链接。

Mercury上线Azure AI Foundry

2026年9月29日,Inception Labs 宣布其 Mercury 扩散大语言模型(dLLM)在 Azure AI Foundry 上线,面向企业开发者提供商用规模的 dLLM。据 Inception Labs 博客,该模型通过扩散架构并行生成多个 token,推理速度最高可达同类自回归模型的 10 倍,在知识、编码、指令遵循和数学基准上与 Gemini 2.5 Flash、Claude 4.5 Haiku 相当。它支持 128K token 上下文窗口、原生工具调用和 JSON schema 结构化输出,API 兼容 OpenAI,目前在美国和加拿大区域提供,软件许可费用为 $0.78/小时,计算费用另计。截至现有证据,尚无后续发展事实。

Inception发布Mercury 2

2026年9月29日,Inception Labs发布扩散式推理语言模型Mercury 2,称其为全球最快的推理语言模型。该模型采用扩散式并行精炼而非自回归逐 token 解码,官方称生成速度提升超过5倍,在NVIDIA Blackwell GPU上达到1,009 tokens/sec。定价为每百万输入token 0.25美元、每百万输出token 0.75美元,支持可调推理、128K上下文、原生工具调用和schema对齐的JSON输出,并兼容OpenAI API,面向编码补全、智能体循环、实时语音和搜索RAG等延迟敏感场景,现已可用。同日,Inception Labs宣布Mercury 2上线Azure AI Foundry,目前在美国和加拿大区域提供。

ElevenLabs介绍v4情感语音控制

2026年9月28日,ElevenLabs介绍Eleven v4通过音频标签控制情感语音的方法:可在脚本中用[furious]、[sarcastic]、[crying]等Audio Tags逐句指定情绪,模型据此调整语气、节奏和停顿,并加入叹息、笑声等非语言声音。官方建议一次生成整段文本以建立场景上下文,TTS应用单次最多支持10,000字符,每个句段只用一个情绪标签,效果不理想时优先替换标签而非改写文本。同日,ElevenLabs发布Eleven v4及低延迟版本Eleven v4 Turbo,称其为目前最具情感表现力的文本转语音模型;Eleven v4在Artificial Analysis排名第一,盲测中约75%听众更偏好它;Eleven v4 Turbo面向智能体等低延迟场景,中位推理延迟约100ms,中位首次发声时间约150ms。两款模型支持90多种语言,可用[laughs]等内联标签控制语气与音效,Instant Voice Clones仅需10秒音频,并新增Professional Voice Clones支持,现已在ElevenAgents、ElevenCreative

华为发布openPangu 2.0预训练、微调及强化学习后训练代码

2026年9月28日,华为发布openPangu 2.0的预训练、监督微调及强化学习后训练代码,进一步扩展其开源AI模型计划。据X.PIN报道,该计划围绕昇腾硬件上的原生训练与推理构建,相关模型组件正逐步加入开源平台。目前尚无后续发展事实,事件状态以该次发布为准。

Fireworks评测DeepSeek新模型

2026年9月14日,Fireworks AI 发布并评测 DeepSeek-V4.1-Flash。据其公布结果,该模型在 DeepSWE 上 pass@1 为 74.34%,与 GPT-6-Astra 的 74.12% 处于同一水平;单任务成本 0.43 美元,约为 Astra 的 1/15。该模型为 552B 参数 MoE,采用输入 8B、输出 16B 的分离激活预算,KV Cache 的 HBM 占用降至上一代 V4 的 1/4。在 HLE 上它得分 34.52%,低于 Astra 的 50.40%,Fireworks 认为它更适合智能体编码而非高难推理。9月28日,Fireworks AI 发布首个缓存感知路由器 FireRouter with Opus,已在 CLI 上线并首次作为独立路由模型提供,可在 Claude Opus 5.5、GLM 5.3 和 GLM 5.3 Flash 之间按任务适配度、提示词缓存成本和切换代价选择模型;其一个多月内部 A/B 测试显示,编码任务每次会话成本从 15.36 美元降至 6.63 美元,降幅 57%(±19 个百分点),准确率为纯 O

Google发布Gemini 3.8 Flash模型

2026年9月28日,Google发布Gemini 3.8 Flash模型。官方称该模型在软件工程、智能体任务和跨多步推理上较3.7 Flash有明显提升,性能接近成本更高的前沿模型,提升来自设计取向上更肯下功夫,即在复杂任务中执行更多推理步骤并迭代调用工具。官方同时展示四个开发者用例:用Google Antigravity绘制卫星与空间站实时轨道、把青海波图案转成动态水墨画、生成霸王龙骨架,以及构建自动变速箱交互模型。用户可在Google AI Studio等工具中试用。目前尚无后续发展事实。

国内首家Q4AI公司费米宇宙完成1亿元种子轮、估值约10推出

2026年9月27日,费米宇宙推出全链路量子增强大模型FermiQLLM 1.0。据量子位报道,该模型基于Qwen开源基座模型改造,不依赖容错量子计算机,可在现有GPU基础设施上训练和部署。内测显示,对标同等参数量级传统大模型,其推理性能提升超过15%,持续强化学习环节训练成本下降25%以上;在MATH-500、GPQA-Diamond、BBH等基准上综合性能提升10%~20%。报道还称,该公司成立于今年5月,种子轮累计融资1亿元,投后估值约10亿元,近一半员工有清华背景。目前尚无后续发展事实。

Architect推出Liquid Inference

Architect Financial Technologies 推出 实时竞价式LLM推理路由与市场Liquid Inference

查看事件：Architect推出Liquid Inference

Perplexity开源多项AI项目

Perplexity 开源 七项模型、推理工具与安全项目

查看事件：Perplexity开源七项AI项目

Modal 宣布 Modal Clusters 正式可用

2026年10月1日,Modal 宣布 Modal Clusters 正式可用。据 Modal 官方工程博客,用户通过 @modal.clustered 装饰器即可调度多节点集群;节点间通过 InfiniBand verbs 通信,带宽最高 6.4 Tbps,并自动为 PyTorch 和 NCCL 配置;集群可在请求后数秒内就绪,按秒计费。Modal 为此新建了 gang scheduling 调度器,并把 RDMA 支持加入 gVisor 容器运行时且已回馈上游。同一来源称,Decagon、1x 和 Runway 分别用其进行万亿参数模型微调、NEO 世界模型预训练和 Gen-4.5、Aleph 2.0 的多节点推理。目前没有后续发展事实。