2026年1月15日,SGLang 推出高度优化的流水线并行(PP)实现,用于应对超长上下文推理。该实现采用分块流水线并行、异步 P2P 通信和动态分块机制。据 LMSYS Blog 介绍,在 H20 集群上,PP4 TP8 部署使 DeepSeek-V3.1 的 Prefill 吞吐量达到 TP8 的 3.31 倍,比 TP32 方案高出 30.5%,同时 TTFT 最多降低 67.9%,强扩展效率达 82.8%。该实现兼容 PD 分离与 HiCache。目前尚无后续发展事实。
匹配字段摘要
2025年10月13日,Ollama 宣布与 NVIDIA 合作,确保最新 NVIDIA DGX Spark 开箱即用、快速高效运行本地模型。据 Ollama Blog 介绍,该设备搭载 NVIDIA GB10 Grace Blackwell Superchip,提供 1 petaFLOP 性能,配备 128GB 内存,可运行 Qwen、DeepSeek、Llama、Mistral、Gemma、Gpt-oss 等模型,也支持上传自定义或微调模型。双方正针对聊天、文档处理、代码任务和多模态工作流优化 Ollama 性能。目前该合作尚无后续发展事实披露。
匹配字段摘要
2025年9月19日,Ollama 推出云端模型预览,让用户在本地工具中运行个人电脑放不下的大模型。据 Ollama Blog 介绍,云端不保留用户数据,首批可用模型包括 qwen3-coder:480b-cloud、gpt-oss:120b-cloud、gpt-oss:20b-cloud 和 deepseek-v3.1:671b-cloud。使用需下载 Ollama v0.12 并登录 ollama.com。云端模型用法与普通模型一致,支持 ls、run、pull、cp,并可通过 Ollama 的 OpenAI 兼容 API 以及 JavaScript、Python、cURL 调用。目前尚无后续发展事实。
匹配字段摘要
2025年5月30日,Ollama 上线思考开关,用户可自行启用或关闭模型的思考过程。启用后输出会把模型的思考内容与最终回答分开,关闭则直接输出内容。在 CLI 中该功能默认启用,可用 /set nothink 关闭;脚本场景提供 --hidethinking 参数。generate 与 chat API 新增 think 参数,Python 和 JavaScript 库同步更新。目前支持 DeepSeek R1 和 Qwen 3。该消息来自 Ollama Blog,为第一方发布。
匹配字段摘要
2025年4月10日,Zyphra 推出面向数学与代码的小型推理模型 ZR1-1.5B。据 Zyphra Research 发布的信息,该模型基于 DeepSeek-R1-Distill-Qwen-1.5B,用强化学习在代码与数学题上训练。在 LCB_Generation 上,它与 Claude3-Opus、Gemma2-27B 持平;在竞赛数学上超过 Qwen2.5-72B。其推理 token 比 R1-Distill-1.5B 少 60%,比 DeepScaleR 少 53.5%。截断到 2048 token 时,数学评测平均 pass@1 达 40.39%,高于 Qwen-2.5-Math-7B-Instruct 的 37.01%。目前尚无后续发展事实。
2025年4月10日,Zyphra 推出面向数学与代码的小型推理模型 ZR1-1.5B。据 Zyphra Research 发布的信息,该模型基于 DeepSeek-R1-Distill-Qwen-1.5B,用强化学习在代码与数学题上训练。在 LCB Generation 上,它与 Claude3-Opus、Gemma2-27B 持平;在竞赛数学上超过 Qwen2.5-72B。其推理 token 比 R1-Distill-1.5B 少 60%,比 DeepScaleR 少 53.5%。截断到 2048 token 时,数学评测平均 pass@1 达 40.39%,高于 Qwen-2.5-Math-7B-Instruct 的 37.01%。目前尚无后续发展事实。
匹配字段摘要
2025年4月15日,Prime Intellect发布INTELLECT-2,称其为首个32B参数全球去中心化强化学习训练,任何人都可无许可贡献异构算力。该训练以QwQ-32B为基座模型,沿用DeepSeek-R1的GRPO与可验证奖励方法,并配套开源prime-RL异步分布式RL库、Shardcast权重分发库和TOPLOC可验证推理方案。推理节点可用消费级GPU,例如4×RTX 3090即可参与训练,训练数据已发布在Hugging Face。
匹配字段摘要
2025年2月28日,Prime Intellect宣布完成1500万美元融资,由Founders Fund领投,Menlo Ventures、Andrej Karpathy、Clem Delangue、Dylan Patel、Tri Dao、Emad Mostaque等参投,累计融资超过2000万美元。公司称其Compute Exchange已连接开发者、创业公司、云厂商和数据中心,并用PRIME框架跨三大洲训练了10B参数模型,还发布了INTELLECT-1、METAGENE-1、INTELLECT-MATH以及基于DeepSeek-R1的合成推理数据集等成果。下一步将扩大算力接入、推出托管评测与专用推理,并继续建设RL基础设施。
匹配字段摘要
2025年3月11日,METR 发表文章,主张 AI 系统的推理过程应当既「可读」(人类能读懂)又「忠实」(真实反映模型的决策过程)。文章认为,这样的推理有助于发现 AI 错误、检测隐藏议程、监控欺骗行为和识别能力造假。文章还指出,OpenAI、Anthropic、xAI、Google DeepMind 和 DeepSeek 都在过去四个月里发布了推理模型,其当前产出的推理已具价值、值得保留。截至现有证据,该主张仍为 METR 单方发文,尚无后续发展事实。
匹配字段摘要
2025年2月10日,antirez 在其原创博客撰文提出判断,认为推理模型本质上仍是大语言模型。他指出,DeepSeek R1 是纯 decoder-only 自回归模型,仍是下一 token 预测,模型内部没有任何显式符号推理或表示。他提到,R1 Zero 无需任何监督微调即可获得类似推理能力,仅靠生成思维链并用强化学习优化奖励函数;S1 论文显示少至 1000 个样本就能让模型构建复杂推理步骤。基于这些观察,antirez 认为曾断言 LLM 是死路的人错了。目前该判断仅有其本人博客这一来源,尚无后续发展事实。
匹配字段摘要
Baseten Base Labs 的玩具实验显示，在相同步数下 PPO critic 与 GRPO 表现持平或落后，而“完美 critic”最多只能消除 40-60% 的优势方差。作者认为价值函数只有在消除的梯度噪声超过其训练成本时才值得，唯一可能有帮助的场景是小 value head，但收益也仅是边际性的。
一提示采样的一组补全的平均奖励。这里的理论论点是：实例化并训练第二个网络，其参数量基本与策略网络相同，而且或许更重要的是，它必须尝试仅凭结束时给出的单个标量奖励，对每个 token 做出准确的预测。在 GRPO 发布的那个月，RLOO [4] 也在摘要和对话任务上使用 REINFORCE 配合留一法基线（例如该提示其他答案的平均奖励）超越了 PPO。 随着 DeepSeek-R1-Zero [5] 于 2025 年 1 月发布，GRPO“正式”取代 PPO 成为推理 RL 的默认方法。但风向是否已经转变？事实上，我们读到的许多近期 ICLR 投稿（这些当然仍是匿名的）又回到了重新训练 critic 的路子上！ 我们决定做一些玩具实验，来探究 critic 究竟在何时才真正值得为训练它而付出的额外算力。从理论上讲，价值函数只有在它消除的梯度噪声超过其运行成本（以更多 rollout 的机会成本计）时才应该“值得”。通常情况并非如此。大多数用 PPO critic 或其替代物替换组均值的论文，在相同步数下表现相当。 那么人们可能会问一个更有趣的问题：在组本身之上再加一个 critic 会怎
匹配字段正文
Arena 分析 2026 年 9 月 12 日至 10 月 23 日的 26,225 条 Agent 会话、30 个智能体和 13 家实验室，发现若按完整输入价计费，排名前十智能体的典型任务成本会高出 3.6 倍，MiMo V2.6 Pro 上高出 592%。智能体 86% 至 96% 的 token 是重复读取的上下文，自身输出仅占 1% 至 2%。缓存失效会让典型任务成本增加约 5%，在 Claude Fable 5.1 上每 10 次会话有 1 次增幅超过 18%。
，这些成本会急剧上升。 各家实验室正竞相降低缓存价格 缓存折扣是相对较新的发明。2024 年初，没有任何实验室提供此类折扣。 首批实验室在 2024 年 6 月至 10 月间推出了缓存折扣，到 2026 年，Anthropic、OpenAI 和 Google 已将其定为输入价格的十分之一。自 2026 年中期以来，这三家都已将前沿模型降至 5% 或更低，而 DeepSeek 自春季以来一直只收取 2%。 这场竞赛正是当今智能体经济性的基础。 缓存让你的账单最多便宜 7 倍 如果每个缓存 token 都按完整输入价格计费，Agent Arena 用户交给排名前十智能体之一的典型任务成本会高出 3.6 倍。在各模型上，用户将多付 92%（Gemini 4 Argon）至 592%（MiMo V2.6 Pro）不等。 这一变化的影响在能力最强的 LLM 上最为明显，尤其是换算成金额之后。 如今，Claude Fable 5.1 的一个典型任务成本为 7.44 美元；若无缓存，成本将是 27 美元。这意味着启用缓存后，可以委托给 Fable 的任务数量超过 3.5 倍。 任务越重，缓存越重要。
匹配字段正文
Anthropic 今年第二季度收入 115.55 亿美元，首次实现 9.74 亿美元经营利润，约 80% 收入来自按量计费。IDC 数据显示，2026 年上半年中国公有云 MaaS 市场收入达 106.3 亿元，同比增长 889.4%，占公有云 PaaS 收入比重从去年下半年的 5.2% 升至 21.0%。智谱开放平台及 API 收入 8.25 亿元、占总收入 86.5%，火山引擎以 45.1% 份额居首，文章认为模型服务已能产生毛利，竞争单位转向推理优化与交付能力。
年第二季度收入 115.55 亿美元，首次实现 9.74 亿美元的经营利润。而且，这笔利润已经扣除了当期确认的研发、人员、销售和算力等经营费用。 支撑这家公司走到这里的，是按使用量出售智能的生意。今年上半年，Anthropic 约 80%的收入来自按量计费，客户通过 API 和 Claude 自己的产品购买模型能力。它把这种模式叫作“为智能付费”。 几天前，DeepSeek 开源推理框架 DeepInfer 时，也给出了一组很有意思的数字：单个集群每天服务的吞吐量达到 155 万亿 Token；按 API 谷价计算，整个集群摊到每张卡，每小时收入 38 美元。此前，The Information 另曾报道，DeepSeek 今年前七个月的 API 业务毛利率达到 82.9%。 长期以来，人们习惯把模型当作一项还在烧钱、等待找到商业模式的技术。如今，已经有人通过出售模型能力获得持续收入，有人把推理服务做出了毛利，还有人第一次用这些收入覆盖了当期经营成本。 基础模型的商业化，终于有了一条率先跑通的路。这些被称为不同名字的模式有个统一的名字：MaaS。 MaaS 凶猛 MaaS 也就是“模型
匹配字段正文
Latent Space 主理人 swyx 介绍年度旗舰大会 AIE CODE 的策展思路，会议为单轨、邀请制，面向约 1000 名智能体工程师。今年三大主题为 Scaling without Slop、System One 模型和 Increasing Ambition，其中 Jarred Sumner 将分享 Bun 用 Rust 重写及 Bun AOT 预览。文章同时汇总了 Mistral 开源权重发布、OpenAI 前沿模型监控等当日 AI 新闻。
Zscaler 等进行了网络防御测试。一位 Mistral 研究员报告称，在对阵 GLM 5.3 和 Kimi K3 时取得了 64% 的人类偏好胜率（@b roziere，后续）。 独立评测：AA 在 Intelligence Index v5 上给它 26 分，勉强成为中国以外开发的最高开放模型，比 Muse Spark Open 高 1 分。它仍落后 DeepSeek V4.1 Flash 1017 和 GLM-5.3 6 分（AA）。 编码与智能体：它在 FrontierCode 2.0 上得分 15%，而 DeepSeek V4.1 Flash 1017 为 29%，GLM-5.3 为 22%。它在 Terminal-Bench 4.0 上达到 25%，而 Muse Spark Open 为 8%。在 Coding Agent Index 上，它每个任务使用 850 万 token 得分 48，而 GLM-5.3 为 49 分、每个任务使用 1590 万 token。 效率：它在每个 Intelligence Index 任务上使用 82K 输出 token，比 Previe
匹配字段正文
Anthropic IPO招股书披露，2026年前九个月约5%至7%的营收来自后来被认定违反使用政策的客户，按前三季度约330亿美元营收计算达16.5亿至23.1亿美元。2026年上半年Anthropic封禁1140万个账号，平均每天约6.3万个，是2025年下半年的近8倍；同期39.8万次申诉中仅4.2万次推翻原处罚，比例约10.6%。Claude至今未向中国大陆开放，但已支持简繁中文界面，付款页面一度出现银联选项。
由来已久。2021年，他与妹妹丹妮拉等人创立Anthropic，就是希望建立一家更加重视AI安全的公司。 2024年10月，阿莫迪发表了著名的长文《Machines of Loving Grace》（充满爱与恩典的机器），描绘了AI在医学、经济和科学研究等领域可能带来的巨大进步，同时也警告，先进AI可能被用于监控、信息操纵等危险用途。 到了2025年初，随着DeepSeek突然崛起，这些原本偏向长期风险的讨论，也有了更加现实的对象。 1月，DeepSeek-R1在硅谷引起轰动。阿莫迪随即发表文章《On DeepSeek and Export Controls》，承认DeepSeek取得了技术进步，但认为其成本优势被外界夸大，先进芯片依然重要，并进一步强调了限制技术扩散的必要性。 2025年2月，他接受ChinaTalk采访时，主持人就问了一个相当直接的问题：中国拥有全球约六分之一的人口，你一方面希望AI造福全人类，另一方面又支持限制中国获取先进AI能力，这两件事难道不矛盾吗？ 阿莫迪认为并不矛盾。他举例说，可以通过API向中国提供AI服务，用于药物研发、能源生产等有益的工作，同时限制军
匹配字段正文
作者用 Cursor 配合 Claude Opus 5.5 做出零依赖的本地网页工具「情商外挂」，把带情绪的草稿按《非暴力沟通》四要素改写，并内置七类沟通对象与温和、坚定、直接三档语气。工具跑在本机 127.0.0.1:8787，通过 UUMit 客户端生成固定 HTTPS 链接分发给同事，无需买服务器或备案，权限可按人发放和收回。文中还给出单次输入 800 字限制、默认每分钟 10 次与每天 200 次的限流设置，以及两个 GitHub 仓库的源码和 System Prompt。
团队协作、内部工具、客户 demo 验证与小范围分享，规模大了依然建议走正式上云部署。 准备清单： 一台日常开着的电脑（macOS 或 Windows 均可，我自己用的是 MacBook Pro M5） Python 3 运行环境（macOS 基本自带，Windows 官网装一下即可） 一个大模型 API 密钥（兼容 OpenAI 格式的任何平台都行，比如 DeepSeek、AIsa、阿里云百炼、Kimi 等） 一个 UUMit 账号（去 uumit.com 注册下载客户端） 一位愿意帮你体验的真实同事或朋友（用来走完最后的外部访问闭环，他也需要注册一个 UUMit 账号） 第一部分：先搞懂这个工具在干什么 说话是门技术，但大部分吵起来的对话，底层逻辑惊人一致。 马歇尔·卢森堡在经典著作《非暴力沟通》里把这个问题剖得很透：一句话之所以听着刺耳，核心不是事实本身，而是里面包裹了道德评判、一概而论、推卸责任或强人所难的命令。对方第一眼看到的不是你的诉求，而是你在扣帽子，防御和反击机制瞬间就被激活了。 书里给出的解药，是把任何沟通拆成四根骨架： 观察：只说能被摄像机拍到的客观事实，不带情绪标
匹配字段正文
腾讯、腾讯云与 WorkBuddy 联合发布 78 页《2026 AI Agent 企业解决方案及落地实践手册》，以 WorkBuddy 为入口，把个人助手推进为进入业务系统的“数字员工”，并由 ClawPro、Agent Runtime、TokenHub 负责开通、隔离、模型与治理。手册提出“能对话→能干活→能上岗”三阶段框架，并给出游族 Agent 渗透率超 75%、游卡 MTTR 5–15 分钟、运维成本约 -40% 等案例数据（均为文中自述）。
产品叙事串起来：先用 WorkBuddy 把个人助手推成进业务系统的「数字员工」，再用 ClawPro、Agent Runtime、TokenHub 做开通、隔离、模型与治理；其余章节是这条底座在研发运维、SaaS、内容、社交、游戏、客服上的行业铺开。 总框架：三阶段 × 三代办公 · 能对话 → 能干活 → 能上岗：问答工具（文中举例 ChatGPT / DeepSeek）→ 嵌工作流、调工具的办公助手（WorkBuddy）→ 进入业务系统、对结果负责、按 KPI 交付的数字员工（Agent 工作台 + 业务系统集成）。 · 三代办公：人操作软件（Office）→ 人在协同平台里催办填报 → 人给目标、设边界、做判断，数字员工理解上下文、调工具、持续执行并交付完成的工作。 · 「超级个人 → 超级团队」：个人侧 LightClaw / QClaw 等，企业侧以 WorkBuddy 为入口，把人、Skill、连接器和管控面收成可复制的执行力。文中还区分狭义办公（个人生产力入口）与广义办公（真正改 CRM / ERP / MES 里的业务状态）。 手册中也对 WorkBuddy、Code
匹配字段正文
Mistral AI 更新并开放旗舰模型 Mistral Large 4 的权重，总参数 1.05T、激活参数 52B，在 Artificial Analysis Intelligence Index v5 上得分 26，比 Preview 版高 1 分，以 1 分优势领先美国开源模型 Muse Spark Open（25）。该模型每项任务输出 82K token，比 Preview 的 135K 少 39%，AA-Omniscience v1.1 幻觉率从 41% 降至 28%，但准确率仍为 26%。定价为每 1M 输入/输出 token 0.70/2.10 美元，较 Preview 下降约 50%，采用 MEOW 许可证，运营 Model-as-a-Service 业务需另行获得商业授权。
l Large 4 Preview（25）高 1 分，主要差异在于 token 效率提升和幻觉减少。它比美国开发的开源权重领先模型 Muse Spark Open（xhigh，25）高 1 分。 在 Artificial Analysis Cyber Index 上，Mistral Large 4（high）得分 51，在现有开源权重模型中排名第三，落后于 DeepSeek V4.1 Flash 1017（max，57）和 MiMo-V2.6-Pro（56）。 主要结论： ➤ 以微弱优势领先非中国开源权重模型：Mistral Large 4（high）领先 Muse Spark Open（xhigh）——后者是下一个最佳的非中国开发开源权重模型——最大差距出现在 Terminal-Bench 4.0（25% 对 8%）。它在 Intelligence Index 上落后于领先的开源权重模型 DeepSeek V4.1 Flash 1017（max）和 GLM-5.3（max）6 分，主要原因是编码和智能体知识工作表现较弱：FrontierCode 2.0 上为 15%（两者分别为 29
匹配字段正文
腾讯云在 2026 腾讯全球数字生态大会上公布 WorkBuddy 企业级服务四项核心能力升级，包括开放平台能力、企业级安全解决方案、可观测中心和 WorkBuddy 托管智能体（WMA），底层 Agent Runtime 同步升级。升级后 WorkBuddy 可通过 MCP、连接器接入企业微信、腾讯文档及 ERP、CRM 等系统，除混元外也支持第三方开源模型和企业自部署模型。王慧星透露 WorkBuddy 自今年 3 月上线以来累计完成 90 亿次用户任务请求，Token 消耗较上线初增长 50 倍；刘毅称 2027 年将重点加强 Agent 主动性。
帮助企业搭建专业数字助理和相应的运营平台。 企业微信与WorkBuddy之间，则更侧重能力互补。 企业微信提供组织沟通、员工与客户交互等业务上下文，WorkBuddy利用这些信息执行任务、交付结果。 王慧星认为，未来面向个人生活与企业生产力的Agent可能形成不同的产品体系，未必会最终收敛到单一入口。 Q16：WorkBuddy会不会过度依赖混元？腾讯还会与DeepSeek等第三方模型厂商进行联合优化吗？ 王慧星称，CodeBuddy团队与DeepSeek相关团队此前就已保持产品、工程和模型层面的沟通。 在他看来，不同模型厂商会针对具体场景优化端到端效果和成本，云平台与Agent产品也可以从这些优化中受益。 腾讯会继续保持开放接入，与不同开源模型团队开展交流和技术协同，而不是让WorkBuddy只能使用单一模型。 刘毅也提到，混元、DeepSeek、Kimi等模型的优化目标并非只针对某一个Agent平台，而是面向用户实际使用的任务场景。 当模型在日常办公、内容生成、代码开发等高频任务上的能力提升后，WorkBuddy可以直接将这些能力引入产品。 Q17：Agent完成复杂任务会消耗大量
匹配字段正文
腾讯集团高级执行副总裁汤道生在2026腾讯全球数字生态大会上宣布，混元大模型Hy4正式版即将发布，相比8月28日开源的Hy4 Preview全面提升，强化长程任务与真实生产力任务能力，显著提升思维链效率，并首次加入视觉理解；主打性价比的Hy4 Flash也将在近期推出。腾讯同时发布跨应用AI协同体系Buddy One和面向Agent时代的腾讯网盘，并升级Agent Runtime，围绕上下文管理、工具调用、安全沙箱、可观测与评测做系统性增强。汤道生还披露，过去一年腾讯云海外活跃客户数量增长约3倍，海外AI需求实现三位数增长。
4 preview实现了全面大幅提升，尤其强化了各类长程和真实生产力任务的能力，显著提升了思维链效率，并首次引入了视觉理解。 Hy4 flash也会在近期发布，提供极致性价比的实用模型，在继承Hy4视觉、Agent等强大能力的基础上，通过模型和产品的深度Co-Design高频进化。 腾讯始终坚持开放的策略，基于TokenHub平台，用户可通过API调用混元、DeepSeek、GLM、MiniMax、Kimi等主流开源大模型。配合Token Plan统一计费服务，企业能以极低切换成本，在多模型之间按需选用。 在内容生产场景，我们也推出腾讯云音视频AI WAND产品家族，提供主流的多模态模型、WAND-Vega多模态应用模型，与100余款自研的媒体处理工具，覆盖了90%的头部短漫剧出海客户，日均生成450万张图片、300万秒视频。 另外，在Agent Infra方面，今天我们也全新升级了Agent Runtime，围绕上下文管理、工具调用、安全沙箱、可观测、评测等关键环节做了系统性增强，让Agent跑得更稳、更可控，综合性价比更高，稍后我的同事会做详细介绍。 三、拦截高危操作、记录调用过程
匹配字段正文
天数智芯首次实机演示通用GPU天垓300和端侧算力终端TY1200，并预告标称算力600T的下一代端侧产品TY2000。天垓300有144GB显存，在64K长上下文下Attention性能为H200的1.05倍，GLM-5.3模型下MoE吞吐为H200的1.15倍；TY1200为300 TOPS INT8稠密算力，实测TPS超越英伟达Thor T5000。天垓300 IXL144超节点在单机柜集成144颗GPU、聚合约10.1TB显存，每百万有效Token成本较国际主流方案降低约40%。
ent首字延迟较H200降低约10%—30%；多模态生成推理吞吐，天垓300相较H200提升约2%—5%；在搜广推等在线业务中，推荐推理吞吐提升21%、轻量计算时延降低26%。 训练方面，在基于Qwen3-32B模型的8卡整机FP8精度训练演示中，天垓300每卡有效吞吐达到H100的1.33倍。 强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、MiniMax、Kimi等国内外主力模型公开采用的核心后训练路线。据条件性工程估算，天垓300以1024张卡对已有预训练基座开展一次强化学习，在40B激活参数的中心情景下，约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。 单天逸现场实测了天垓300与H200在文生图、文生视频方面的性能。 其生成了“一个亚麻发色、穿白色连衣裙的女生在冰面行走，赛博朋克风格”的图片，天垓300 4秒就生成了第一张图片。 此外，其现场生成了“豆包穿着骑士装迎娶奶龙”的视频。天垓300的吞吐量为0.628，相比H200更高，且任务的完成速度、服务端的推理速度更快。 在规模化交付层面，单天逸透露，天垓30
匹配字段正文