搜索“推理”

网络安全模型吗？ 来自 SemiAnalysis Weekly 播客 Ep. 038：主持人 @JordanNanos，嘉宾是 SemiAnalysis 分析师 @kimbochen 与 @gao wenyao， 他们也是「GLM 5.3 稀疏注意力如何影响 HBM 内存用量」的作者。这期播客围绕 @Zai org 两个月前发布的开源模型 GLM 5.3，从推理性能、模型架构、后训练管线到实际用途做了全面拆解！ 稀疏注意力：省的是带宽，不是容量 最核心的技术澄清：稀疏注意力（如 GLM 自第 5 代起采用的 DeepSeek DSA）与线性注意力路线不同：它不改动缩放点积注意力的核心运算，只通过 lightning indexer 之类的组件挑选“最相关的 token”参与计算。但嘉宾强调一个常见误解，稀疏注意力解决的是内存带宽瓶颈，而非容量瓶颈：token 选择过程仍要求保留全部上下文，计算时仍需载入 HBM，所以 KV cache 的容量占用并未显著减少。 真正处理容量问题的是 HiCache / HiSparse：并发升高时把 KV cache 从 HBM 卸载到容量大、带宽低的

匹配字段正文

Claude Code 可以放手让它狂奔，GPT-5 却显得胆怯。说到「我们其实已经不怎么看代码了」时，他自己都红了脸，毕竟眼前这位的工作就是做自主编程智能体。 那晚离开时，Shipper 心里冒出一个念头：OpenAI 也许正在为一种即将消亡的工作流打造完美的工具。 一切始于「Thinking...」 要理解 Codex 的翻盘，Shipper 把时间拨回推理模型的诞生。 早期大模型像即兴演员，只能一个词一个词地边想边说。2024 年 9 月，OpenAI 推出 o1 预览版，把「先一步步推理再作答」训练进了模型本身：同一个模型，多想一会儿，就能在难题上做得更好。 编程是最大的受益者。写代码天然是个闭环：改、运行、几秒内就知道对不对，模型可以自己测试、自己修正。理论上，只要思考时间足够，推理模型能独立完成任何编程任务。 Codex 这个名字本身也有过好几次「开端」：最早的 Codex 是 2021 年基于 GPT-3 微调、支撑初代 GitHub Copilot 的模型。o1 之后，OpenAI 内部好几支队伍又从不同方向重新追逐这个梦想。 两条暗线：一次「感受到 AGI」，一场「自

匹配字段正文

opic 的收入还远不足以覆盖开支。路透社获得的招股书显示，Anthropic 去年营收约 46 亿美元，经营费用约 126.5 亿美元，经营亏损超过 80 亿美元。其中，算力和基础设施支出约 73 亿美元，比当年全部收入还高。 算力是所有 AI 公司都绕不开的成本黑洞。为了维持技术领先，大模型公司们不得不投入庞大的算力训练成本，而随着用户规模和调用量增长，推理开支也在持续增加。国内已经上市的智谱及 Minimax 中，超过 7 成的研发投入都用于算力。 Anthropic 的算力开支更甚。据路透社报道，Anthropic 在招股书中披露，未来十年与六家合作伙伴的云服务、算力和基础设施支出承诺至少达到 5180 亿美元。其中约八成不可取消，或无论是否使用都需要付款。 谷歌和亚马逊占据了其中的大头。Anthropic 承诺在 2026 年 4 月至 2033 年 7 月期间向谷歌支付至少 1111 亿美元，在 2026 年 5 月至 2036 年 4 月期间向亚马逊支付 1100 亿美元。按照合同，即使实际使用支出不足，公司也需要补足差额。 与微软的协议涉及 314 亿美元，付款期从今年

匹配字段正文

n工厂，90%的成本来自硬件采购，再每年摊薄。所以，竞争重点应该落在降低Token的单位成本，而不是拼规模和性能参数。比如公司可以让散热再降低20%，让芯片跑得更稳定，但不降频。“那么这20%就可以变成你的收益。” 影响超节点吞吐Token的因素有很多。比如液冷能力，可以让算力卡超频运行；比如高速互联网络的带宽、时延，直接决定卡间通信效率；显存容量与带宽则是推理能力的核心约束。 浪潮信息董事长彭震告诉《中国企业家》，浪潮超节点胜负手不是去追求极致的大规模，而是要做速度最快、能承载万亿参数模型、面向企业级快速部署的超节点——这更符合当下企业智能体落地的真实需求。 “从2025年起，超节点竞争就很激烈，但我们认为不应该再依照惯性思维堆规模，而要从客户视角出发，把Token交互速度作为关键衡量指标，因为智能体时代‘速度就是金钱，成本即生存’。”彭震说。 近期，浪潮信息发布了元脑SD200 Ultra超节点AI服务器。元脑SD200 Ultra基于本土AI芯片，单机承载运行2.8万亿参数的Kimi K3大模型，Token生成时延首次突破5.85毫秒。 互联之战与十万卡集群 为了在单位时间内生成

匹配字段正文

宇共同提出的Block AttnRes（分块注意力残差） 。把上百层网络划分成若干区块，块内维持低成本的基础累加，只在块间做精细的注意力聚合。这样显存复杂度从层数级降到了块数量级，只分约8个块，就能找回全量版绝大部分性能。 实测数据很硬核，Kimi Linear 48B模型上用1.4万亿token训练，AttnRes达到同样效果只需要基准模型约80%的算力，推理延迟增量不到2%。GPQA-Diamond提升7.5分，Minerva Math涨3.6分，HumanEval涨3.1分。 论文发布当天，硅谷半个AI圈被炸了出来。OpenAI联合创始人Karpathy评价：“看来还没把'Attention is All You Need'这句话按字面意思理解透。”马斯克留下一句：Impressive work from Kimi. 这时人们才注意到，三位共同第一作者中，有一个17岁的实习生。 但陈广宇反复强调一件事：不要造神。他说成果属于团队，希望外界看到的是研究本身试图解决的底层难题。苏剑林的复盘文章里也写过，训练团队曾认为方案还不够可行，原因很直白——说白了还是穷。 这个细节很重要，Att

匹配字段正文

卡提供冗余资源的配置，在算力利用与运行保障之间灵活安排。 大模型的演进，正在改变算力系统的设计逻辑。今年7月，月之暗面发布的Kimi K3总参数量已达2.8万亿，9月的云栖大会上，阿里巴巴披露下一代Qwen 4正在训练，并将未来模型的参数规模目标指向5万亿至10万亿。 模型越大，需要解决的问题也越复杂。训练阶段，大量GPU需要频繁交换梯度和中间计算结果；进入推理阶段，即使采用每次只激活部分参数的MoE架构，系统仍需要存储和调度庞大的模型权重。尤其是随着上下文长度增加，KV Cache对显存的占用也会持续增长。 天数智芯选择144卡整柜互联，正是希望为这种需求预留空间。据上述天数智芯展台工作人员介绍，天垓300 IXL144在设计时考虑了未来10万亿参数级模型的运行需求。 当然，这一设计背后也有商业考量。随着DeepSeek、Qwen等国产开源或开放权重模型的发展，对于数据安全、自主可控要求较高的超大型央国企、智慧政府平台等场景而言，“国产芯片+国产模型”的本地化部署正在成为一种值得关注的技术路径。这也为国产GPU厂商提供了互联网大厂训练集群订单、电信运营商AIDC、算力工厂之外的市场机

匹配字段正文

给模型。 所以绕到最后，模型得靠得住，这些判断才有意义。 Hermes 那个时代的答案是靠不住，所以写死规则。到了 Grok Bot这个时代，解法是让它学到能信。 为了让模型更更好的适应具体的工作，Gotkbot有两个学习循环。 内循环是天天都在跑的。Agent 犯了一个错，比如调了不该调的工具，就变成一条评测用例，团队去修 Harness、改提示词，或者查推理上的问题，测过了再上线。 外循环则是每隔一阵转一次，这是会把内循环里积攒的问题和用例用来更新训新模型，让它从这些错误里学。用SFT 让它看大量 Harness 里的样例，熟悉手上有哪些工具。在用RL让它学会听指令，在几百个技能里挑对那一个，在网页上点对地方。 新模型上线，判断又准一截，交给它的事就能再多一点。 个人Agent，就是从Always on到上下文的特性化适应 靠着这一套对Agent基础长期在线的能力的工程修正，现在Agent是可以Always on的去干很多事情了。 那么接下来的问题就是具体让它去干什么。 这道题是开放的。同一套底座，可以替团队盯工作，也可以替你盯生活；可以催项目进度，也可以提醒你孩子的报名截止日期。

匹配字段正文

opic 的收入还远不足以覆盖开支。路透社获得的招股书显示，Anthropic 去年营收约 46 亿美元，经营费用约 126.5 亿美元，经营亏损超过 80 亿美元。其中，算力和基础设施支出约 73 亿美元，比当年全部收入还高。 算力是所有 AI 公司都绕不开的成本黑洞。为了维持技术领先，大模型公司们不得不投入庞大的算力训练成本，而随着用户规模和调用量增长，推理开支也在持续增加。国内已经上市的智谱及 Minimax 中，超过 7 成的研发投入都用于算力。 Anthropic 的算力开支更甚。据路透社报道，Anthropic 在招股书中披露，未来十年与六家合作伙伴的云服务、算力和基础设施支出承诺至少达到 5180 亿美元。其中约八成不可取消，或无论是否使用都需要付款。 谷歌和亚马逊占据了其中的大头。Anthropic 承诺在 2026 年 4 月至 2033 年 7 月期间向谷歌支付至少 1111 亿美元，在 2026 年 5 月至 2036 年 4 月期间向亚马逊支付 1100 亿美元。按照合同，即使实际使用支出不足，公司也需要补足差额。 与微软的协议涉及 314 亿美元，付款期从今年

匹配字段正文

阅额度跑GPT-6.1 Sol，都不收长上下文附加费了。在10月12日的更新中，OpenAI 把Codex和ChatGPT Work里的默认窗口从272k扩到500k，一口气涨了约80%。 而Anthropic进一步将价格竞争，拆解到模型能力和具体工作负载之中。目前，其官方 API 价格页面列出多款主力模型。其中，Claude Fable 5.1 面向高难度推理和长周期 Agent 任务，Opus 5.5 侧重长时间编码与知识工作，Sonnet 5.5 兼顾速度与能力，Haiku 5.5 则面向高频、低延迟任务。 Haiku 5.5的定价尤为扎眼，相比上一代最高直接降了90%。在10万 Token 以内，Haiku 的价格为输入每百万Token 0.10美元、输出0.50美元，比DeepSeek-V4.1 Flash的谷时价格都便宜了。超过10万Token时，其价格只比上代低50%，但也进入了相当低的区间。 此外，Anthropic 还在批量任务上为用户挖下降本空间：Batch API 的输入和输出 Token 均可享受50%的折扣。以 Sonnet 5.5 为例，标准价格为输入2美元

匹配字段正文

文丨海克财经 作者 | 范东成 头部玩家产品持续更新。10月13日，谷歌正式发布专为处理复杂、长程任务而设计的大模型Gemini 4 Argon，将之定义为前沿智能新阶段。在这之前的10月12日，Meta发布同样为长任务、深度推理而设计的大模型Muse Wonder系列，后者指向的是个人和专业Agent即智能体。 自9月8日官宣上线Personal AI Agent即个人AI智能体Muse以来，Meta动作格外受到市场关注。就使用体验而言，用户只需说出目标，Muse就能自主拆解任务并执行，包括调用外部应用完成邮件收发、打开网页、商品购买等。 凭借便捷的操作与可靠的交付，Muse在海外迅速走红，市场反响热烈。调研机构Sensor Tower数据显示，Muse上线5天内下载量超过73万次，9月30日累计下载量超过500万；目前Muse已连续多日超越ChatGPT、Claude等热门应用，位列美国iOS免费应用榜榜首。 Muse实则并非全球首款个人AI智能体或称个人AI助理。率先踢出这一脚的是2025年3月官宣上线的Manus，后者彼时亦曾引起市场广泛关注。Manus经历的跌宕起伏，如今已是

匹配字段正文

步计划着"实现极高 GPU 利用率""研究长上下文""工具使用的强化学习""对社会影响的评估框架"......之后的五年，他们兑现了路线图上的每一个分支，更是交出了一份惊人的答卷。从Claude 1 到 Opus 5，从宪法 AI（Constitutional AI）到可解释性，再到近期的 Computer Use、MCP 协议、Claude Code、混合推理，都能在 2021 年那条路线图里找到锚点。 01 2021 年的 Anthropic， 究竟看清了什么？ 2021年，ChatGPT 还未问世，整个行业都在摸索大模型落地方向。而 Anthropic 却在内部文档中明确写出 AGI 的核心路径，那就是做有长记忆能力的大型生成式模型，并通过结合自动化奖励与人类反馈的强化学习（RL）完成微调。所有的研究项目，都是以这个中心做的探索实验。他们认为，检验这套路线的第一个载体，就是“对话式软件工程师助手”。它能通过对话完成软件的创建、编辑与讲解，能写函数、找 Bug、设计 API，还能讨论代码风格与工程最佳实践，最终达到一名软件工程师同事的水准。这正是今天 Claude Code 的具体

匹配字段正文

管理，都是围绕用户主动点开App来设计的，智能体拿不到底层调度权限，也无法跨App读取用户数据。 Step AOS试图从底层改写这套逻辑：兼容Android、Linux和RTOS，在传统系统之上增设智能体运行层，统一调度端云算力，打通跨应用数据，把系统和App能力拆成原子单元供智能体调用。按阶跃披露，它采用“双域三步”记忆结构，简单任务本地响应，复杂任务云端推理，误操作可撤回、可回滚。 从技术叙事上看，这是一套逻辑自洽的完整方案。但问题在于，这套方案目前仍停留在“系统方案加样机验证”的阶段。阶跃官方承认完成度约70%，跨应用调度的权限问题、第三方App的接口稳定性、复杂任务链路的容错率，这些决定体验的真正变量，都还没有经过大规模的用户检验。 发布会次日，豆包手机助手公示的拒绝清单显示，微信、淘宝、美团、支付宝等151款应用拒绝GUI自动化操作。这不是豆包一家的困境，而是所有试图用“读屏+模拟点击”方式接管手机的智能体共同撞上的高墙。Step AOS想绕开GUI自动化，走系统级原子能力调用，但超级App愿不愿意把接口交出来，仍是未知数。 更现实的是，端侧芯片的现有能力，与“智能体手机”的

匹配字段正文

开某个APP，再在对话框里输入任务指令，而是一个电话直接吩咐Instinct就行。截至目前，Instinct仍然只支持邀请制体验产品。这种“传统”交互与前沿科技混合的反差，也为Instinct增加了不少神秘的吸引力。 图源：Instinct官网 而在产品之外，个人Agent走红的现象也反映出更深层次的行业变化。开年至今，AI在办公场景深度落地，让Agent在推理、工具调用和多步骤执行方面获得了持续演进，AI有能力处理更复杂的工作流。 模型接口、云端执行环境以及第三方工具的成熟，也大大降低了开发和部署门槛。年初OpenClaw最火的时候，用户要花几百块找人上门安装，如今的个人Agent下载即用。 另外，科技大厂在AI办公产品推广上投入的真金白银，也客观推动了用户对于AI产品能力的认知升级，让在工作中用AI办公的用户接受在生活中用Agent助手，基本没有什么用户教育的成本。 个人Agent：大厂AI的新副本 当个人Agent在硅谷成为新热点，国内大厂也没闲着。 9月22日举行的阿里云栖大会上，千问宣布加速打造个人Agent。10月13日，阿里千问便公布消息称将发布个人Agent产品“千问G

匹配字段正文

利润空间，另一端为新的模型公司和服务平台提供了进入操作系统的机会。 OPPO与Manus合作，说明它选择以更开放的方式应对这一变化。从产品开发角度看，这有利于快速获得复杂任务执行能力，也避免将所有技术风险都留在内部，面对模型能力持续迭代，依靠外部伙伴并没有天然劣势。 但AI进入手机之后，原有的商业关系也会重新排列。用户可以通过一个智能体完成过去需要访问多个应用的操作；智能体所调用的服务、产生的推理费用、保留的任务上下文，以及最终由谁收取服务费用，都将成为新的利益分配环节。 这种变化尚未形成稳定格局，阶跃星辰仍在验证AI原生手机的市场需求，豆包手机还要面对第三方应用权限的限制，OPPO与Manus的合作也有待大规模用户检验。任何一家都谈不上已经确立优势。 不过，OPPO面临的经营压力却不会因此暂停。三季度全球份额降至9%，意味着它需要更加重视每一次用户流失；持续投入高端硬件与AI，又使每一次产品决策都承担更高的成本。 OPPO过去很擅长把手机卖到消费者手中，但如今手机屏幕点亮以后，谁替消费者安排下一步，正逐渐成为一门新的生意。 在这门生意里，手机厂商依然重要，但已经无法独自决定全部规则。

匹配字段正文

Google DeepMind走的是实时交互。2025年8月发布的Genie 3，官方定义是首个实时、可交互的逼真世界模型，根据文本描述生成可探索的3D环境，帧率20到24fps，基于 Google Maps街景锚定现实世界。它已经能让人在生成的世界里走动了。 英伟达走的是物理AI底座。今年5月发布的Cosmos 3，是全球首个完全开放的全模态模型，把视觉推理、世界生成、动作预测收进一个系统，专门给机器人和自动驾驶生成训练数据，把训练评估周期从数月压缩到数天。 至于字节，走的是第四条，也是离大众最近的一条。据悉，字节的模型以Seedance为基础，按需生成每秒20帧的视频，端到端延迟约50毫秒，渲染放在云端，画面串流到终端。应用场景是直播、互动短剧、游戏，计划适配Pico头显。 要知道，50毫秒接近人类感知阈值，20帧每秒说明云端渲染和流媒体传输已经到了可用的工程水准。这条路的含金量在于，它是为实时互动而生的。 字节敢把世界模型排第一，底气在内容生态。QuestMobile 数据显示，红果免费短剧今年 5 月月活3.56亿，2月用户日均使用时长125分钟。抖音是天然的试验场，剪映是创

匹配字段正文

司不断扩大的融资规模、算力采购协议和数据中心建设计划，为上游芯片供应商提供了订单预期。与此同时，模型公司自身的财务数据长期缺乏公开市场所要求的完整披露。投资者更多根据年化收入、用户数量和资本开支计划推算公司的成长空间。 当收入统计口径出现200亿美元差异，市场开始重新审视这些推算的基础。这也使OpenAI未来的资本开支成为投资者关注的重点。 而且，模型训练与推理需要持续采购计算资源。OpenAI也同样需要面对模型价格下降，以及来自Anthropic、国内开源模型和大型科技公司自研模型的竞争。 10月13日，费城半导体指数连续第五个交易日下跌。15日，美光科技（MU.US）下跌4.5%，存储相关公司闪迪（SNDK.US）下跌4.3%，希捷科技（STX.US）下跌5.9%，西部数据（WDC.US）下跌5.8%。 除AI资本开支预期变化外，中国存储芯片厂商长鑫科技（688825.SH）存储的技术进展，也引发了市场对全球存储芯片竞争加剧的担忧。 10月14日，美国公布的9月CPI同比上涨3.7%，高于市场预期。通胀数据增加了市场对美联储进一步加息的担忧。当天，纳斯达克指数下跌1.88%，标普5

匹配字段正文

评机构BridgeMind在官方跑分出炉后，拉着几个主流大模型做了一轮开放式的真实世界任务测试。前面提到的“制作透明动态熔岩灯”，就是其中的一道考题。 看到Muse Wonder生成的那坨完全不搭边的玩意儿后，BridgeMind毫不客气地抛出了一项指控：这模型八成是在搞“Benchmaxxing”（刷榜应试）。 基准测试当然有用，研究人员得靠它来衡量模型在推理、代码、数学和知识理解上的底子。可一旦顺着题库死磕，很容易就养出一个高分低能的“做题家”。 毕竟现实世界里的任务哪有什么标准答案。真实用户打开对话框，肯定不会像题库那样发出指令：“请作答第1354题。” 大家甩过来的全是“帮我设计个产品”、“盘一下这个商业方案”或者“跟进这个复杂项目”。模型要自己去揣摩模糊的意图，结合现实背景，再边干边根据反馈调方向。 正因如此，BridgeMind觉得Muse Wonder的病根就在这儿：只要题目边界清晰、结构明确，它就能拿高分；一旦丢进开放式的真实场景，表现立马跳水。 当然，抛开拉胯的熔岩灯不谈，哪怕回到官方引以为傲的跑分榜单上，Muse Wonder的高分同样经不起细抠，争议最大的就是那项

匹配字段正文

剩6个百分点。 两个变化背后，都有大厂的身影。阿里 CEO吴泳铭今年3月披露，平头哥芯片年化营收已达百亿元级；9月的云栖大会上，阿里又发布真武V900，计划于2027年一季度量产并商业化，预计AI芯片年出货量将大幅增长。百度则在推进昆仑芯分拆上市，天池超节点实现了全栈国产，昆仑芯已经完成了三代AI芯片的研发和商业化。 01 模型公司还在为盈利寻找出路，训练和推理的账单已经变成了芯片大厂们的利润。 据IDC报告显示，今年上半年，英伟达在中国数据中心AI加速芯片市场的出货量同比下降44%，份额为34%；华为占28%，平头哥和昆仑芯分别占7%和4%，加起来已经超过英伟达；华为、平头哥、昆仑芯和寒武纪占非GPU细分市场约95%的出货量。 大厂芯片出货量增加的直接原因是，模型调用量上涨，英伟达高端产品供应受限，国产芯片同时接到了新增需求和替代订单。 华为已经在催产业链扩产。徐直军说，目前“能产多少就供多少”；面向推理的950PR已上市，用于训练的950DT超节点预计今年年底或明年初规模供货。 阿里也透露，真武M890的外部客户超过650家，覆盖20多个行业。 国产大模型一边开源、一边降价，企业部

匹配字段正文

自微信公众号： 霞光AI实验室 ，作者：Vinco，编辑：李小天 乌兰察布的风，一年刮两次，一次刮半年。 当地人这么“自嘲”了很多年。风从西伯利亚来，穿过内蒙古高原，裹着沙和草屑，冬天刺骨，春天迷眼。过去它只意味着出门艰难、晾衣服得用夹子。谁也没想到，有一天这股风会被风机截住，变成电，沿着输电线路涌进一排排服务器，再变成Token，流向北京的模型训练、上海的推理调用、深圳的智能体后台。 更没想到的是，这股风正在往全球吹。 今年8月，高盛的一份报告，把乌兰察布推到了全球算力圈的聚光灯下，称它是“亚太规模最大、增长最快的AI算力集群之一”。随后，摩根士丹利、WIRED（美国科技媒体《连线》）等接连把镜头对准这座五线小城。截至今年6月，当地拿到的数据中心容量承诺约12.5GW，超过OpenAI在2025年启动Stargate时提出的10GW美国AI基础设施初始承诺。 一个种土豆、产酸奶、办火山草原旅游节的地方，突然和GPU、GW、Token绑在了一起。这片风电与光伏铺满的广袤草原，一夜之间成了全球算力版图上最炙手可热的地方。 但乌兰察布的出圈，不是孤例。它背后是一股持续涌动的AI热潮：AI算

匹配字段正文

Noah明确拒绝广告模式，认为Agent若为广告服务会诱导用户购买不需要的东西。公司选择类似Apple Pay的交易佣金模式，用户端免费，约一半交易来自差旅，高端酒店愿意为有效订单支付20%-30%佣金。 4. 增长瓶颈：日增10%但算力跟不上，约40%精力用于应对 快速增长期日增幅达10%-11%，算力需求几乎每周翻倍，但集群交付周期长达数月。团队自研混合推理系统降低成本，Noah估计未来90%以上Token消耗发生在用户看不见的后台。 5. 交互演进：超九成用户用语音，任务从一次性指令延伸到长期目标 本文来自微信公众号：Datawhale，作者：Datawhale，原文标题：《今年最火00后诞生！Instinct创始人深度专访来了》，头图来自：AI生成 成立一年，14位员工，估值达到100亿美元。 Instinct走红硅谷，身后创始人是一位00后。创始人Noah Shinn今年23岁，2023年从美国东北大学辍学，曾加入AI独角兽Sierra，随后创办了Instinct。 不久前，Instinct宣布完成新一轮10亿美元融资，由红杉资本、Benchmark和Coatue联合领投。一

匹配字段正文