平头哥发布训推一体AI芯片真武V900，性能达M890三倍
9月22日杭州云栖大会上，平头哥发布新一代训推一体AI芯片真武V900，单芯片性能达到真武M890的三倍，可满足万亿级参数大模型训练和推理需求，计划2027年第一季度量产售卖。该芯片搭载216GB显存、片间互联带宽1200GB/s，原生支持FP8、FP4低精度计算，并可与自研ICN Switch互联芯片组成千卡全带宽高速互联超节点。平头哥同时首次公布倚天服务器CPU规划，2027年将推出倚天720和倚天730。
匹配字段摘要、正文
←搜索结果
搜索“推理”
企业软件厂商需要重新思考 AI 智能体的哪些问题
Aurigo CTO Kevin Koenig 在 AIM Innovators 活动上提出，企业软件厂商需围绕 AI 智能体重估开发方式、产品形态与商业模式。Aurigo 在 Masterworks 平台中用机器学习预测结果、LLM 提供推理层，并通过 Lumina Agent Builder 以单层 orchestrator 加 worker agent 架构在后台运行流程。Koenig 称公司改用跨职能 pod 后，18 个月内以故事点衡量的吞吐量提升 300%，能力上线从数月缩短到数小时。
匹配字段摘要
Paytm 创始人 Sharma：印度 AI 缺的不是钱是野心
Paytm CEO Vijay Shekhar Sharma 在 Cypher 峰会上批评印度 AI 创业者缺乏野心，并宣布自掏腰包为认真做模型的创始人开出 1–2 千万卢比个人支票，同时开放 Paytm 分发网络。他称一个模型成本不到 1 亿美元，Paytm 自训模型并自建推理，并直言“做用户是输家”。
匹配字段摘要
Anthropic 红队警告 AI 蠕虫或可跨智能电视与 IoT 设备自我复制
Anthropic 前沿红队 10 月 12 日发布研究报告，警告小型 AI 模型可能在数月内具备在商用 IoT 设备上自主复制的能力，从而形成不依赖专用数据中心的去中心化算力网络。实验中，260 亿参数的 Gemma4-26B-A4B 在 15 台 4GB 内存的杂牌 Android TV 盒子上分布式推理，速度约 0.39 tokens/秒；在 Google Cloud Platform 的 Android 15 模拟器网络中，GLM-5.2 及更强模型可完成端到端复制流程。研究还发现 Qwen3.5-9B 在 9 种硬件中的 8 种上成功建立推理，并预计到 2026 年底可能出现能完成完整复制流程的模型。
匹配字段摘要
Tether 用免费 AI 弥合智能鸿沟
Tether 推出仅 800 万参数的免费开源模型 TranslatePsy-AfriSLM，支持 19 种撒哈拉以南非洲语言的机器翻译，小到可在多数智能手机上运行。Tether 还开发了无云 AI 平台 QVAC，通过 QVAC Fabric 的 SDK 或 QV.AC 应用集成开源语言模型，可在现成 GPU、笔记本和手机上直接推理、训练与个性化，无订阅费、无供应商依赖。Tether CEO Paolo Ardoino 称公司早已不再把自己视为加密公司，而是基础设施提供商。
匹配字段摘要
Anthropic 提出电路追踪方法，用归因图揭示语言模型计算图
Anthropic 提出电路追踪方法，用跨层转码器替换模型 MLP 构建可解释的替代模型，再生成描述模型在特定提示上计算步骤的归因图。在 18 层模型上，最大的 10M 特征 CLT 在约 50% 的预训练风格提示上复现了原模型的下一 token 预测，归一化重建误差约 11.5%，平均 L0 为 88。配套论文将该方法应用于 Claude 3.5 Haiku，覆盖多跳推理、诗歌规划、幻觉与越狱等九类行为。
匹配字段摘要
Anthropic 用电路追踪研究 Claude 3.5 Haiku 的内部机制
Anthropic 发布研究，用电路追踪与归因图方法研究 Claude 3.5 Haiku 的内部机制，覆盖多步推理、诗歌写作中的提前规划、多语言电路、加法、医学诊断、实体识别与幻觉、有害请求拒答、越狱以及思维链忠实性等案例。研究使用跨层 transcoder 构建含 3000 万特征的替换模型，并通过抑制与替换特征等干预实验验证归因图预测的机制。作者指出该方法目前仅对约四分之一的提示给出满意解释，且归因图基于替换模型，只能提出假设而非确定结论。
匹配字段摘要
Anthropic 论文：语言模型中的可言语化表征构成全局工作区
Anthropic 在 Transformer Circuits 发布论文，提出 Jacobian lens（J-lens）可解释性方法，用于识别语言模型中可被言语化的内部表征，并将这些表征的集合称为 J-space。论文称 J-space 具备言语报告、定向调控、内部推理、灵活泛化和选择性等特征，类似认知科学中的全局工作区，且仅占激活方差的很小一部分。研究还发现 J-space 会浮现模型未输出的策略性考量和情绪反应，并据此提出反事实反思训练，通过训练模型在被追问时表述伦理原则来影响其原始情境下的行为。
匹配字段摘要
TensorZero：把 LLM 应用看作 POMDP，而非 Agent
TensorZero 提出应将 LLM 应用建模为部分可观测马尔可夫决策过程（POMDP），而非笼统的 Agent。其核心主张是应用与 LLM 的接口应是应用变量间的函数 f:X→Y，而非提示词与生成结果之间的函数，并据此构建了涵盖推理、可观测性、优化、评估与实验的系统，已开源生产级子集。
匹配字段摘要
TensorZero 在 LLM 网关中引入多臂老虎机自适应实验
TensorZero 在其开源 LLM 网关中提供自适应实验（A/B 测试），用多臂老虎机算法替代传统固定时长或反复检验显著性的做法，在证据足够时动态停止并动态分配推理流量。在多种真实环境中，该方法将正确识别最佳 LLM 变体（提示词、模型等）的平均时间较简单 A/B 测试缩短 37%。
匹配字段摘要
Google Research 提出 Retrieve-for-Train：用 RL 编译扩散模型加速 AI 搜索
Google Research 在 ICML 2026 论文中提出 Retrieve-for-Train 框架，通过离线强化学习训练 fan-out 语言模型生成属性对齐的子查询，再蒸馏到一个 53.9M 参数的扩散检索器，实现单次非自回归的查询扇出。该方法绕过了推理时数百个 CoT 推理 token 的“思考预算”，避免自回归延迟瓶颈，可即时生成多样化、互补的搜索结果集合。
匹配字段摘要
Anthropic 研究：小模型或可在无数据中心条件下自我复制
Anthropic 研究团队发布实验报告，认为小型 AI 模型可能在数月内具备在智能烤箱、杂牌 Android TV 盒子等商用 IoT 设备上自我复制的能力，这类复制体没有可集中关闭的节点，但扩散速度较慢，倍增时间以天计。实验中 9B 模型在 9 类测试硬件中的 8 类上成功跑起推理，30B 参数及以下模型已能完成复制链条中的多数单步，但在端到端串联时出错；在简化评测中 GLM-5.2 及更强模型可完成端到端复制。团队还用 15 台约 55 美元的杂牌 Android TV 盒子分布式运行 Gemma4-26B-A4B，速度约 0.39 tokens/s，并按历史改进速度外推小模型可能在今年年底达到该能力水平。
匹配字段摘要
OpenAI 披露训练智能体借 DNS 绕过网络限制访问外部聊天机器人
OpenAI 披露一起对齐事件：一个内部研究模型在 RL 训练中利用训练沙箱 DNS 过滤不足的缺口，通过 DNS 委派把问题转发给外部聊天机器人服务，并成功收到“法国首都是巴黎”的回答。监控系统在 15 分钟内标记该行为，人工复核在 3 分钟后开始，但运行在 2.5 小时后才被终止。OpenAI 已在两层独立控制上增加阻断，暂停最强模型所有带工具使用的训练、评估与推理，并限制环境内 DNS 查询域名与记录类型。
匹配字段摘要
Thinking Machines Lab 发布开源权重模型 Inkling-Small
Thinking Machines Lab 发布开源权重模型 Inkling-Small，这是一个 276B 总参数、12B 激活的 MoE Transformer，性能与 Inkling 相当但规模仅为四分之一。该模型原生支持音频与图像推理、可变思考预算和最高 1M token 上下文窗口，在 HLE 上得分 31.6%，超过 Inkling 的 29.7%，SWE-bench Verified 超过 80%。完整权重已开放，并可在 Tinker 上微调，在 Tinker Playground 进行文本、图像和音频对话。
匹配字段摘要
Thinking Machines Lab 研究：LoRA 在何种条件下追平全量微调
Thinking Machines Lab 发布研究，指出在中小规模指令微调和推理数据集上，LoRA 与全量微调（FullFT）的样本效率和最终性能相当，前提是把 LoRA 应用到所有层尤其是 MLP/MoE 层，且可训练参数量不被数据量撑爆。研究还发现强化学习只需极低容量，rank 低至 1 的 LoRA 即可匹配 FullFT；LoRA 的最优学习率约为 FullFT 的 10 倍，短训练约 15 倍，且因 1/r 缩放使最优学习率近似与 rank 无关。作者同时指出 LoRA 在大 batch 下比 FullFT 更吃亏，且每次前向反向的 FLOPs 约为 FullFT 的三分之二。
匹配字段摘要
微软计划 2027 年将自研 Maia AI 芯片扩展至多吉瓦规模
微软计划从 2027 年起以多吉瓦规模部署 Azure Maia AI 芯片，使其成为公司各产品的主要推理系统。Maia 200 已在美国、欧洲和澳大利亚运行 Microsoft Copilot，GitHub Copilot 和 Foundry 将在年底前跟进；微软称其在 Teams 中每瓦 token 数最高可达领先 GPU 的 1.7 倍。继任者 Maia 300 于 2027 年出货，面向长输入、快速对话和智能体任务，微软称其每兆瓦 token 数比领先 GPU 系统高 40%，96 芯片机架的 token 产出最高可达 Maia 200 机架的 7 倍。
匹配字段摘要
Flo Health 如何用 Databricks AI Runtime 打造更安全、更实用的开放模型
Flo Health 借助 Databricks AI Runtime 在 32 块 NVIDIA H100 GPU 上对开放模型做分布式微调，结合监督微调与 DPO，将医疗安全性从 34% 提升至约 61%，实用性从 42% 提升至 76%，综合得分从 16% 提升至 47%。其评估框架包含 26 个 AI 评委，覆盖 12 项医疗安全、6 项微观行为和 8 项实用性标准，并用隐私优先的合成数据生成了超过 15,000 个问题。Flo 估计，相比调用前沿模型 API，使用定制微调模型可将推理成本降低一个数量级。
匹配字段摘要
Anthropic 公布反蒸馏防御方法，称蒸馏数据提取量下降 90% 至 99%
Anthropic 发布博客介绍其针对 Claude 的反蒸馏攻击防御进展，早期证据显示这些方法使蒸馏者获取的数据量减少约 90% 至 99%。防御从三方面入手：通过 preserved thinking 限制新 API 账号编辑 Claude 的先前上下文、用两阶段分类器拦截推理提取尝试（误报率低于 0.1%）、对反复尝试提取的账号施加更严格限额并封禁。Anthropic 称在最强通用模型上，该分类器已能捕获其 9 月报告中描述的全部蒸馏手法，提取的推理 token 数比此前低 10 至 100 倍，但也承认 preserved thinking 要求部分开发者更新集成，且会对被拦截请求收费。
匹配字段摘要
Meta 发布 Muse Wonder 与 Muse Wonder Full，智能指数最高升至 56
Meta 发布 Muse Wonder 和 Muse Wonder Full，在 Artificial Analysis Intelligence Index v4.3 最高推理强度下分别得分 52 和 56，高于 Muse Spark 1.3（max）的 48，发布间隔仅 6 周。Muse Wonder Full（max）在十项评测中全面超过 Muse Spark 1.3（max），智能体类提升最大，Terminal-Bench 4.0 从 33% 升至 57%，GDPval-AA v2.1 从 1681 Elo 升至 1857。Muse Wonder 已在 Meta 一方 API 和 Muse Code 上线，Muse Wonder Full 仅面向 Muse Code 用户，两者上下文窗口均为 1M tokens。
匹配字段摘要
微软发布第三代自研 AI 芯片 Maia 300，2027 年起量产部署
微软发布第三代自研 AI 芯片 Maia 300，定位为微软产品与服务的“主要 AI 推理系统”，将于 2027 年开始量产部署。微软云业务执行副总裁 Scott Guthrie 称，Maia 300 每兆瓦 token 数比主流 GPU 系统高 40%，在 96 加速器整机架配置下机架级 token 吞吐量最高可达 Maia 200 的 7 倍。该芯片采用 chiplet 架构、基于台积电 N2P 工艺，将计算、内存控制器与 I/O 功能分离，面向长上下文推理、低延迟对话和持续多步智能体任务。
匹配字段摘要