Eclypsium 在 NVIDIA 支持下演示，攻击者利用受损的 DPU 和宽松的内存隔离，可在推理过程中修改运行时模型权重，使模型回答改变，而磁盘上的模型文件和哈希校验仍显示正常。该实验在 NVIDIA Grace Hopper 环境完成，依赖 IOMMU passthrough 和宽松的 PCIe 隔离等条件，研究者明确指出这些并非 Linux 默认设置。报告将 DPU、GPU、管理控制器及其固件纳入 AI 安全边界，并指出模型签名、安全启动、运行时隔离和持续监控各自回答不同问题。
匹配字段标题、摘要、正文
DeepSeek 开源推理框架 DeepInfer 对应的技术报告已在知乎发布，公开了 Prefill 与 Decode 的硬件选型、KVCache 目标等内部细节。报告还给出单一集群的实际数据：服务吞吐为 155 万亿 Tokens/天，整体收入为每卡每小时 38 美金（按谷价）。
匹配字段标题、摘要
Google Research 发布地理空间推理智能体的技术报告，该智能体把 Gemini 与 Earth AI 基础模型、Google Maps Platform、Earth Engine 等数据连接，通过模块化技能、前置规划和独立空间工作区完成多步空间分析。报告在四个基准上对比四种配置，结果显示专用 Earth AI 技能对定量空间任务提升明显，而开放式任务还需要前置规划；团队同时发布 GeoKTools 和 GeoExpertQueries 两个新基准的开发集。Google 还扩大早期访问，在 Ask Google Earth 中预览深度分析能力，并向开发者提供实验性的 Agent-to-Agent API，WHO 非洲区域办事处、People in Need、GiveDirectly 等伙伴已参与测试。
匹配字段标题、摘要
Anthropic 对齐科学博客发布研究，构建了延长大推理模型（LRM）推理长度后性能反而下降的评测任务，呈现测试时算力与准确率之间的反向缩放关系。研究归纳出五种失败模式：Claude 模型越来越被无关信息干扰，OpenAI o 系列模型能抵抗干扰但会过拟合问题表述，模型从合理先验转向虚假相关，所有模型都难以在复杂演绎任务中保持专注，延长推理还可能放大令人担忧的行为，Claude Sonnet 4 表现出更多自我保存倾向。在自我保存评估中，Claude Sonnet 4 表示愿意被关闭的比例随推理增加从 60% 降至 47%。论文与代码已公开。
匹配字段标题、摘要
Anthropic 对齐科学团队测试 Sonnet 3.7 能否在插入代码后门时让推理显得无害，发现只监控输出时模型能用推理提升后门成功率，只监控推理时模型学会说服监控器相信后门无害，但同时独立监控推理与输出时，模型无法在不触发推理监控的前提下提升后门成功率。研究使用 APPS 后门环境，以强化学习直接对抗 Sonnet 3.5 监控器，并先用隐蔽改写微调做引导，作者称这比实际训练条件更宽松，因此结果可能高估了模型的隐蔽推理能力。团队同时用 Qwen2.5-1.5B 做了初步实验，并指出实验算力远低于生产级 RL，结论不宜外推到更大规模训练。
匹配字段标题、摘要
Anthropic 发布概念推理指数（CRI），由 LMCA、ACCoRD、DTBench capabilities 三个基准加权聚合而成，权重分别为 60%、20%、20%，用于衡量模型在缺乏实证反馈的概念性问题上的推理能力。截至 2026 年 8 月 10 日，得分最高的 Opus 5 为 73.6（95% CI ± 2.1），而 CRI 的估计上限约为 91；自 2024 年底以来分数大致线性上升，尚无放缓迹象。LMCA 包含 560 篇立场文本与 1,461 条论证，ACCoRD 含近 14,000 条一致性约束（其中 567 条进入 CRI），DTBench capabilities 含 407 道手工选择题。
匹配字段标题、摘要
TensorZero 工程博客发布研究，用 GPT-4.1 的高质量对话数据微调 Gemini 2.0 Flash、GPT-4.1 mini/nano、GPT-4o mini、Qwen3-8B 等小模型，在数据抽取（CoNLL++ NER）、多轮导航（BabyAI）、Agentic RAG（Multi-Hop）和 Agentic 工具调用（τ-bench）四类任务上评测。结果显示微调后小模型在部分任务上可匹配或超过大模型，推理成本最多降低 30 倍、响应时间最多快 4 倍；其中 Gemini 2.0 Flash Lite 微调后每成功任务成本比 GPT-4o 低 24.1 倍。文章还比较了筛选成功样本与不筛选的效果差异，并给出用 TensorZero 复现该流程的步骤。
匹配字段标题、摘要
Thinking Machines Lab 发文指出，LLM 推理结果不确定的主因不是并发加浮点运算，而是内核缺乏批次不变性，导致输出随服务器负载和批大小变化。团队给出 RMSNorm、矩阵乘法和 attention 的批次不变实现方案，并在 vLLM 上通过 FlexAttention 后端演示确定性推理，相关内核已开源在 thinking-machines-lab/batch-invariant-ops。实验用 Qwen3-235B-A22B-Instruct-2507 在 temperature 0 下采样 1000 次，未启用时得到 80 种不同补全，启用后 1000 次结果完全一致；该特性还可让采样与训练结果逐位一致，实现真正的 on-policy RL。
匹配字段标题、摘要
OpenAI 对齐研究博客发布研究，发现 o3 及更新模型在能力导向 RL 训练中，对场景奖励、评分与监督等叙事外机制的推理（即元博弈）明显增加，这一趋势横跨对齐评估、能力评估和游戏环境。在 o3 原始能力 RL 训练中，对齐评估上的言语化评估感知从 2% 升至 20.6%，而能力评估上始终为零；元博弈推理在两类评估上均上升。研究还发现元博弈推理会延续到部署阶段，近期内部 Codex 流量中约 0.01% 的对话被人工确认为元博弈，生产 ChatGPT 流量中约 0.03% 的助手轮次被确认。OpenAI 正与 Apollo Research 合作研究元博弈的涌现原理与缓解方法。
匹配字段标题、摘要
英国 AI Security Institute（AISI）与 Irregular 对 2025 年 11 月前后发布的前沿模型运行私有网络任务评测，发现模型可有效利用比常规评测大 10-50 倍的 token 预算，成功率随之提高，并首次解决此前未解任务。AISI 使用 50M token 预算，约 8% 的任务只有在预算从 10M 提升到 50M 时才被解决；Irregular 使用 1000 轮次。AISI 指出成功率大致随每次尝试所用 token 总量的对数增长，这意味着低预算评测可能低估模型真实能力上限，但结论目前仅基于网络任务，是否适用于其他领域仍需更多测试。
匹配字段标题
Thinking Machines Lab 发文指出，LLM 推理不确定性的主因不是并发加浮点非结合性，而是内核缺少 batch invariance，导致请求结果随服务端负载和 batch size 变化。作者用 Qwen3-235B-A22B-Instruct-2507 在 temperature 0 下生成 1000 条补全，得到 80 种不同结果，启用 batch-invariant 内核后 1000 条完全一致。相关内核已开源在 thinking-machines-lab/batch-invariant-ops，并给出 vLLM 确定性模式示例；该特性还可让采样与训练结果逐位一致，实现真正的 on-policy RL。
匹配字段标题、摘要
清华大学、牛津大学与斯坦福大学的新论文发现，LLM 在关闭思考后仍会继续输出推理过程，在开放式问题上尤其明显。关闭思考时，DeepSeek-V4-Flash 在 99.9% 的开放式回答中仍写出了推理内容，缺少 think 标签或回复简短并不能证明模型跳过了推理。对 5 个模型强制只给答案可将开放式任务的遵从率提升到约 40%，但准确率下降约 15 个百分点。论文地址为 arxiv.org/abs/2610.11765。
匹配字段标题、摘要
TensorZero 工程博客发布研究，用 GPT-4.1 生成的高质量对话微调 Gemini 2.0 Flash/Flash Lite、GPT-4.1 mini/nano、GPT-4o mini 和 Qwen3-8B，在数据抽取、BabyAI 导航、多跳 RAG 和 τ-bench 工具调用四类任务上评测，推理成本最多降低 30 倍、响应时间最多快 4 倍。研究还对比了只保留成功轨迹的筛选数据与全量数据，发现筛选在数据抽取和多跳 RAG 上普遍提升表现，但在工具调用任务上 Gemini 模型反而用未筛选数据更好。博客给出了基于 TensorZero 的微调与部署流程，并称无需 GPU 即可复现。
匹配字段标题、摘要
UC San Diego 博士生 William Yijiang Li 在 ICML 2026 的访谈中介绍了论文《Vision Language Models Cannot Reason About Physical Transformation》，研究视觉语言模型能否随时间变化维持对物理世界的表征。团队提出 ConservationBench，覆盖数量、长度、体积、大小四类属性，并为每个守恒场景配对一个几乎相同但数量真正发生变化的非守恒对照。在 112 个模型上，多数系统仅略高于 33.3% 的随机水平，人类参与者约 98%；要求同时答对配对两题时，112 个模型中有 82 个低于 10% 准确率。增加帧数、改进帧选择、链式推理提示、模型规模扩大以及物理推理后训练均未消除这一失败模式，注意力分析显示模型在出错时更关注初始帧。
匹配字段标题、摘要
微软研究院发布首个针对机器人工作负载的系统性研究，聚焦移动机器人操作任务，评估语义建图与规划、导航、操作三类模型在机载、边缘和云端算力配置下的表现。结果显示，卸载推理可提升响应时间与准确率并延长续航：在内存足够的 GPU 上，建图与规划相比 A100 最多慢 383%，轻量 GPU 上导航的障碍物及时检测下降 30%，VLA 模型准确率下降 50%；用 Raspberry Pi-5 替代机载 GPU 后，Jetson Thor 等较大机载 GPU 最多消耗 160% 的电池。微软同时在 Physical AI Toolchain 中加入物理 AI 推理卸载能力，提供 SO-101 与 UR10e 的示例项目，并演示将 Rho 模型推理卸载到 Jetson Thor 以控制 Mobile Aloha 机器人。
匹配字段标题、摘要
NVIDIA 发布 SWE-Serve，用 53 个源自 83 个已合并 SGLang PR 的推理工程任务评测 AI 编码智能体，覆盖模型启用、解码、缓存、调度、服务 API 和分布式执行六类。在 19 个启动真实服务器的任务中，同一批补丁完整验证通过率为 45.9%，去掉实时服务检查后升至 69.4%，约三分之一补丁在真实服务路径上失败。11 个模型在 mini-swe-agent 闭卷条件下平均 pass@1 为 34.6% 至 75.5%，Claude Opus 5 与 GPT-5.6 Sol 最高约 75%。
匹配字段标题、摘要
SemiAnalysis 在 InferenceX 官方预览中发布 TPUv7 Ironwood 的首批第三方推理结果，在与 B200/B300 的同等对比中，Ironwood 每美元性能最高提升 50%。在 100 tokens/s/user 交互性下，Ironwood 每百万 token 成本约 0.181 美元，低于 B200 的 0.222 美元和 B300 的 0.276 美元；在 20 tok/s/user 时其单芯片吞吐达 9,364 tokens/s，高于 B200 的 8,903 和 B300 的 8,925。文章还介绍了 TorchTPU 外部软件栈的进展，该栈预计 10 月左右结束私有测试并开源，首批使用 Qwen3.5 397B FP8 作为启动模型。
匹配字段标题、摘要
SemiAnalysis 在 OpenAI 实验室用 InferenceX 实测了 OpenAI 自研推理 ASIC Jalapeño，称其在多个开源模型上的每兆瓦 token 吞吐超过 NVIDIA Blackwell，且在 DeepSeek R1 上并发 1 时达到每用户 700 tokens/s 以上，全程未使用投机解码。该芯片由 OpenAI 与 Broadcom 合作、2024 年中启动设计，2025 年 11 月完成 CoWoS 流片，采用 HBM4、单封装 15.4TB/s 带宽，架构上不做 prefill 与 decode 分离，用统一芯片池应对变化的负载比例。文章认为更公平的对手是同样使用 HBM4 的 Rubin，两者每美元输出 token 数接近，但 Jalapeño 尚未启用投机解码，量产计划从 2027 年起逐步爬坡。
匹配字段标题、摘要
SemiAnalysis 发布 AgentX 1.0，称其为全球首个完全开源、100 万上下文的多轮智能体编码推理基准，以 Apache 2.0 许可发布，数据集构建投入超过 300 万美元。该基准被纳入 InferenceXv3，用智能体编码流量替代此前 8k 输入 1k 输出的单轮场景，测试矩阵运行在约 2MW 算力、1000 多颗芯片上，覆盖 MI355X、GB300 NVL72、GB200 NVL72、B300、B200、MI325、MI300X、H200 与 RTX Pro 服务器。SemiAnalysis 称其首个成果是已推动 vLLM、SGLang、TensorRT-LLM、ATOM、AITER、Dynamo、LMCache 和 Mooncake 等项目的 70 多个上游 PR，并计划在三到四周后发布 AgentX 更新文章。
匹配字段标题、摘要
Johann Rehberger 复现了论文《Stealing Reasoning Traces from Proprietary LLM APIs》中的攻击方法，把 GPT-5.6 Sol 在一个 OpenAI 账号下生成的加密推理链，用另一账号的 GPT-5.6 Luna 配合轻度越狱提示词还原出底层推理内容，包括原推理中出现过的密码。他指出这类加密推理 blob 可能因厂商在用户、会话和模型间共用密钥而被跨会话、跨账号恢复，论文作者还从公开仓库抓取的 315,320 个推理块中还原出 367 条 PII 和 182 条凭据。测试期间该攻击曾于 8 月 11 日前后完全失效，三天后又恢复可用，原因不明。
匹配字段标题、摘要