微软发布第三代自研 AI 加速芯片 Maia 300，并宣布 Maia 200 已投产，用于支撑 Copilot 等云服务。Maia 200 部署在美国、欧洲和澳大利亚的数据中心，每瓦 token 吞吐量最高为领先 GPU 基础设施的 1.7 倍，年底前还将支撑 GitHub Copilot 和 Microsoft Foundry。Maia 300 计划 2027 年投产，采用推理优先架构，每兆瓦 token 吞吐量预计比领先 GPU 系统高 40%，96 加速器整机架的 token 吞吐量最高可达 Maia 200 的 7 倍；微软计划 2027 年以多吉瓦规模扩展 Azure Maia 系列，目前 Maia 尚未通过 Azure 实例向客户开放。
匹配字段摘要
InternLM 发布开源多模态决策模型 Intern-Decision，将状态、可选图像和多个带类型的问题转化为带概率的决策，支持 choice、score 和 noul（是/否）三类问题，训练时微调 Qwen3.5 的语言主干并冻结视觉塔和投影器。Intern-Decision-4B 在七套基准上平均准确率 90.02%，RTX 4090 本地平均请求延迟 44.16 ms，在 96 例校准基准上 Brier 为 0.550、ECE 为 0.089。该版本包含训练、两种推理后端、基准评分、温度校准和浏览器 demo，但训练数据、校准与验证记录、图像及模型权重未包含在内。
匹配字段摘要
FireRedTeam 开源 FireRedTTS2，一个面向多说话人对话生成的长时流式 TTS 系统，支持 3 分钟、4 说话人的对话，并可通过扩展训练语料支持更长对话与更多说话人。系统支持英语、中文、日语、韩语、法语、德语和俄语，具备跨语言与语码转换的零样本声音克隆能力；基于 12.5Hz 流式语音 tokenizer 和双 Transformer 架构，在 L20 GPU 上首包延迟低至 140ms。项目已发布预训练 checkpoint 与推理代码，并支持 bf16 推理，显存占用从 14GB 降至 9GB。
匹配字段摘要
FireRedTeam 开源 FireRedASR2S，一套包含 ASR、VAD、LID、Punc 四个模块的一体化语音系统，各模块均称达到 SOTA。FireRedASR2 支持中文（普通话及 20 多种方言口音）、英文、中英混说以及语音和歌声转写，在 4 个普通话公开基准上平均 CER 为 2.89%，在 19 个中文方言口音基准上为 11.55%，均优于 Doubao-ASR、Qwen3-ASR-1.7B、Fun-ASR 和 Fun-ASR-Nano-2512。FireRedVAD 支持 100 多种语言的语音、歌声和音乐检测，F1 为 97.57%；FireRedLID 覆盖 100 多种语言和 20 多种中文方言，准确率 97.18%；FireRedPunc 中英文标点预测平均 F1 为 78.90%。四个模块可独立使用，模型权重与推理代码已放出，技术报告见 arXiv。
匹配字段摘要
9月22日杭州云栖大会上，平头哥发布新一代训推一体AI芯片真武V900，单芯片性能达到真武M890的三倍，可满足万亿级参数大模型训练和推理需求，计划2027年第一季度量产售卖。该芯片搭载216GB显存、片间互联带宽1200GB/s，原生支持FP8、FP4低精度计算，并可与自研ICN Switch互联芯片组成千卡全带宽高速互联超节点。平头哥同时首次公布倚天服务器CPU规划，2027年将推出倚天720和倚天730。
匹配字段摘要、正文
OpenAI 开源其思维链可监控性评测的数据集与参考代码，仓库地址为 https://github.com/openai/monitorability-evals，并同步发布计算 g-mean2 指标的代码和模拟评测脚手架。OpenAI 表示已在 GPT-5.4 thinking、GPT-5.2 thinking、GPT-5 thinking 和 o3 的系统卡中回填完整可监控性评测结果，未来前沿推理模型系统卡也会报告该结果。部分依赖私有或受限数据的评测未纳入开源，包括 Health Queries、FrontierMath、Math Diamond、OAI-Repo-Sabotage、Anti-Scheming 等。
匹配字段摘要
OpenAI 在 Codex 中发布 Auto-review，用独立的 Codex 智能体在沙箱边界审查越界操作，替代用户逐次审批。官方称该模式下 Codex 会话中断请求人工审批的频率比手动审批模式低约 200 倍，需审查的操作中约 99% 被批准，被拒绝后 Codex 在超过一半的情况下能自行找到可接受的替代方案。Auto-review 使用 GPT-5.4 Thinking（低推理），已在 OpenAI 内部部署，目前 Codex Desktop 内部 token 用量大部分来自该模式；官方同时提示它不构成安全保证，也无法防范模型刻意隐藏意图，相关代码已在 Codex 仓库开源。
匹配字段摘要
蚂蚁 inclusionAI 在 GitHub 开源 Realtime-Venus，一个结合全双工对话模型与异步执行框架的交互系统，可在持续对话的同时把任务交给 Harness 推理或调用工具，结果回到同一对话中语音播报。项目包含 Omni 模型集成、可复用的 Harness 包和基于 Codex 任务后端的浏览器 Demo，在线 Duplex Demo 需至少一块 NVIDIA A100 GPU，另提供 Beta 版 Android 演示包。该研究项目由 Venus Team 与清华大学合作完成，代码采用 Apache-2.0 许可。
匹配字段摘要
蚂蚁 inclusionAI 的 AGI Research Center 在 GitHub 开源 LLaDA2.0-Uni，一个基于 dLLM 的 MoE 统一模型，把多模态理解与生成整合进 Mask Token Prediction 范式。模型支持文生图（含 thinking 模式）、图像理解与图像编辑，采用 SigLIP-VQ 离散语义 tokenizer 和扩散解码器，经蒸馏可实现 8 步推理。仓库已放出 HuggingFace 模型权重、FP8 量化版本、ComfyUI 与 Diffusers 支持，以及 SGLang 服务支持，采用 Apache License 2.0。
匹配字段摘要
蚂蚁 inclusionAI 的 ASystem 团队开源 AReno，一个面向单节点的 LLM RL 后训练工具包，覆盖 RL、SFT/DPO 训练、serving 与 agentic RL，无需搭建集群或外接训练与推理后端。它支持 CUDA、昇腾 NPU 和 Apple Silicon MLX 后端，原生 LoRA 覆盖 Qwen3、Qwen3-MoE 与 Bailing-MoE V3，并可在 CUDA 上对 Qwen3 dense 和 Bailing-MoE V3 做 QLoRA 训练。仓库以 Apache 2.0 许可发布，提供 CLI、OpenAI 兼容 serving 接口和 Docker 镜像。
匹配字段摘要
AMD 在 OCP Global Summit 上发布 Helion，一套以 CPU 为中心的 AI 数据中心计算基础设施设计，用于同时运行大量 AI 智能体。与堆叠大量 GPU 的 Helios 不同，Helion 面向智能体反复执行程序、访问数据库带来的 CPU 需求；面向大型数据中心运营商的配置可单机架容纳最多 32,768 个基于第六代 EPYC Venice 的 CPU 核心，模型推理请求则交给独立 GPU 系统。企业配置将 EPYC CPU 与 Instinct MI350P GPU 放在同一机架，最多容纳 16 块 GPU，并集成 token router 把请求分流到高性能模型或自托管开源模型以降低 AI 运营成本。AMD 将以开放参考设计形式提供 Helion，向 OCP 贡献规范，Cisco、Dell、HPE、Lenovo、Supermicro 等八家服务器厂商正在开发相关系统，计划 11 月上市。
匹配字段摘要
微软宣布推出 Maia 300，称其每瓦 token 吞吐比领先的 GPU 系统高 40%。从下一个自然年起，微软将把 Maia 系列扩展到多吉瓦级部署，使其成为自家产品和服务的首要推理系统。目前 Maia 200 已在美国、欧洲和澳大利亚部署，在 Teams 和 Copilot 中每瓦 token 吞吐最高提升 1.7 倍。
匹配字段摘要
微软发布第三代自研 AI 芯片 Maia 300，定位为微软产品与服务的“主要 AI 推理系统”，将于 2027 年开始量产部署。微软云业务执行副总裁 Scott Guthrie 称，Maia 300 每兆瓦 token 数比主流 GPU 系统高 40%，在 96 加速器整机架配置下机架级 token 吞吐量最高可达 Maia 200 的 7 倍。该芯片采用 chiplet 架构、基于台积电 N2P 工艺，将计算、内存控制器与 I/O 功能分离，面向长上下文推理、低延迟对话和持续多步智能体任务。
匹配字段摘要
Google 为 Gemini 应用免费版用户推出改动，免费用户无法再手动切换模型，选择器中只剩 Auto 搭配 Gemini 3 模型，由系统自动把提示词分发给最合适的模型，多数提示词走最快的 Flash-Lite，需要更深推理的会走 Flash 或 Pro。若关闭智能模型选择，无 AI 套餐用户的全部回复都使用 Flash-Lite。同时 Google 上线新的 effort levels 取代此前的 Extended 选项，分为 Low、Medium、High 三档，与 Google AI Studio 和 Antigravity 中的 thinking levels 对应。Google AI Plus 用户之后将限制为 Flash-Lite 和 (3.8) Flash。
匹配字段摘要
TensorZero 在其开源 LLM 网关中提供自适应实验（A/B 测试）功能，采用多臂老虎机算法解决传统实验固定停止规则和流量分配次优的问题，可在证据充分时自动停止并动态分配推理流量。官方称在多种真实环境中，自适应实验将正确识别最佳 LLM 变体（提示词、模型等）的平均时间比简单 A/B 测试缩短 37%。该功能基于固定置信度最佳臂识别（BAI）的 Track-and-Stop 策略，用 Rust 实现，通过概率采样、周期性更新采样概率和 GLRT 停止规则适配生产环境的异步反馈与并发请求。
匹配字段摘要
Kimi 发布 Agent Swarm，让 K2.5 在推理时自行组建带分工的智能体组织，最多并行部署 100 个子智能体、执行超过 1500 次工具调用，比顺序执行快 4.5 倍。官方称其针对单智能体顺序执行在长任务上的上下文与时间瓶颈，适用于大规模检索、批量文档处理、多视角分析等可并行场景。该功能目前为早期研究预览，后续将加入子智能体直接通信与并行宽度动态控制。
匹配字段摘要
Microsoft 于 2026 年 10 月 7 日宣布，在 Windows 本地 AI 推理基座 Windows ML 中实验性集成推理引擎 llama.cpp，开发者可通过 Windows ML 在 PC 上运行 GGUF 格式语言模型。同时新增 Text Generation API，让应用以统一流程调用 GGUF 与 ONNX 模型，Windows ML 会自动为 GGUF 选择 llama.cpp、为 ONNX 选择 ONNX Runtime。目前 llama.cpp 在 Windows ML 上仅验证了 CPU 与 CUDA 的 NVIDIA GPU 执行，GGUF 模型不支持 NPU，Text Generation API 也只提供贪心解码，不支持采样、temperature、投机解码与结构化输出，相关 API 为实验性、暂不支持生产使用。
匹配字段摘要
Z.ai（智谱）的 GLM 5.3 已在 Amazon Bedrock 上线，据 Hugging Face Hub 发布信息，这是一个 753B 参数的 MoE 模型，面向编码和长程智能体任务优化。Bedrock 提供全托管 API，支持跨区域推理、提示词缓存和服务层级，目前面向符合条件的企业客户开放。相比 GLM 5，官方称其在 DeepSWE、Terminal Bench 3.0、FrontierSWE 等编码基准上有竞争力，并在 CyberGym 基准上测得 84.5 分。
![[Amazon Bedrock Playground screenshot showing chat interface with GLM 5.3 model explaining symmetric vs asymmetric encryption. Response includes detailed comparison with checkmarks and X marks highlighting key differences, examples like AES and RSA, a]](/api/site/image-proxy?v=1&u=https%3A%2F%2Fd2908q01vomqb2.cloudfront.net%2Ff1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59%2F2026%2F10%2F05%2FScreenshot-2026-10-05-at-6.11.23%25E2%2580%25AFPM.png&mode=body-640&exp=1793613000&sig=Dful8uGo30ix2RVx9tJerSl6SL9EhBjcifczheQTYGo)
匹配字段摘要
Hao AI Lab 开源了能在 Minecraft 中与真人对抗的智能体 Jev，通过 SOTA LLM 智能体加人工监督从机器人自身日志中进化提示词，全程不做训练。在 1,795 轮对局后，Jev 在与真人玩家的 Block UHC 对战中赢下 70% 的回合；与满技能脚本对手对战时，v1 每轮皆负，不到两小时后 v9 每轮皆胜。其决策基于 DiffusionGemma 上的 DJev 单次前向传播，不生成任何 token，开源推理引擎 DJev-serve 在 NVIDIA GB200 NVL72 与 B200 上以单张 CUDA graph 运行，每次决策 24 ms，比某主流推理引擎快 2.5 倍。
匹配字段摘要
UCSD Hao AI Lab 开源了 Minecraft 智能体 Jev，在 1,795 轮对局后公布其工作方式。它不训练模型，而是由 SOTA LLM 智能体在人工监督下从机器人自身日志中进化提示词；在 Block UHC 对真人玩家赢下 70% 的回合。每次决策在 NVIDIA Blackwell 上耗时 24 ms，团队称比某主流推理引擎快 2.5 倍，并开源了推理引擎 DJev-serve，在 GB200 NVL72 和 B200 上以单次 CUDA graph 完成每个决策。
匹配字段摘要