DeepSeek 开源自研推理框架 DeepInfer（Apache 2.0）和生产级 Token 编解码组件 deepseek-recipe（MIT），支撑 DeepSeek V4.1 Flash 单集群一天服务 155 万亿 Token。官方线上统计显示平均每请求输入 77K Token、首字延迟约 400 毫秒，生成阶段每秒输出 230 个 Token，平均 96% 的输入命中缓存。DeepInfer 目前支持 V4.1 Flash，开源版本仅提供离线推理，KV 缓存管理与负载均衡代码因与内部基础设施绑定暂未完整开源。
#开源/仓库#推理#部署/工程
阶跃星辰 10 月 13 日晚在上海发布首款智能体手机 STEPX Neo 先行版，将 Step 系列模型、Step AOS 1.0 系统、Step Studio 工具与手机硬件打包，售价 3999 元，当晚 9 点开启预售，10 月 16 日 10:13 在京东、天猫、抖音首销。该机搭载智能体原生操作系统 Step AOS 1.0 与个人智能体阶跃 Amoo，采用双入口设计，右滑可从 Amoo 界面切回传统 App 桌面，执行上端侧处理轻量任务、云端旗舰模型负责复杂推理与多步规划。阶跃同时提出连接个人智能体与服务智能体的 A to A 网络，通过 MCP、A2A 等协议打通，Amoo 已与支付宝、腾讯、携程、滴滴、剪映、高德、美团等近百家企业或产品达成合作。
#产品更新#Agent#端侧
DeepSeek 于 10 月 17 日更新 V4.1 Flash-1017，API 价格未上涨，Terminal-Bench 4.0 从 31.2 分升至 42.3 分，超过 GPT-5.6 Sol 的 39.9 分和 GLM-5.3 的 37.9 分，仍低于 Claude Opus 5 的 51.8 分。官方列出的 11 项测试成绩全部高于初版，非高峰时段输入每百万 Token 0.15 美元、输出 0.60 美元。同期开放 Search 和 Fetch API，每 1000 次成功调用 0.75 美元，通过 DeepSeek Harness、Claude Code 和 Codex 的调用暂免费用，计划 10 月 31 日 16 时（UTC）起计费。有海外开发者用 ModelTrace 检测出 GPT-6 Astra 相似度 84.66%，但该工具数据库未收录 DeepSeek，结果不能作为蒸馏证据。
#模型发布#Agent#编码
商汤在 12 个模拟评测和 8 款机器人上系统测试 GPT-6-Astra，并开源 SenseNova-RoboRSI 评测框架与 SenseNova-RoboRSI-27B-Preview 具身模型，称其任务完成成本为 GPT-6-Astra 的 1/50。测试显示，解除步数限制并允许访问训练集后，GPT-6-Astra 在 RoboDojo 上任务成功率达 81.9%，但叠碗平均耗时约 131 分钟、估算推理费用约 19 美元，把笔装进笔筒平均耗时 263 分钟、约 55 美元。开源框架将各 Benchmark 封装为独立 Docker 镜像并通过统一 HTTP API 提供环境交互与评分，27B 模型在 RoboCasa365 上成功率由 26.0% 提升至 46.5%，任务 Token 开销减少 73%。
#开源/仓库#具身智能#Agent
特斯拉宣布FSD（监督版）v14 Lite开始向搭载英特尔芯片的Model S和Model X推送，该版本通过知识蒸馏把HW4车型的FSD v14能力迁移到HW3硬件。更新提升了导航处理、匝道汇入、行人交互、红绿灯识别和车辆加塞等场景的预判与应急响应，并优化了行驶平顺性。相比其他获得该版本的车型，这批车缺少目的地停车位置选择、驻车状态直接启动FSD和自动倒车功能。
#产品更新#端侧#部署/工程
llm-d 项目在 PyTorch Conference North America 上发布 1.0 版本，这是一个 Kubernetes 原生的分布式推理服务栈，由 Red Hat、IBM 和 Google 主导维护，CNCF 以沙箱项目托管。1.0 版本新增多租户服务质量保障，包括按优先级和公平性调度的流控与可控降载，并支持路由器热备、安全滚动更新，以及把 prefill 和 decode 副本作为整体管理的 DisaggregatedSet 控制器。项目公布的测试显示，在 544 张 NVIDIA H100 上部署 GLM-5.2 可服务最多 3000 个并发编码智能体且零抢占，按当前云租赁价格计算，每 token 成本比同等商业 API 低 5 到 10 倍。
#产品更新#部署/工程#开源生态
IBM、Red Hat 与 Google 等 llm-d 项目贡献者发布分布式 AI 推理框架 1.0 版本，新增多租户服务质量、零停机升级和面向 AI 智能体的服务模式。框架基于 Kubernetes，可与 vLLM、SGLang 等推理引擎配合，通过路由把请求导向已缓存相关上下文的副本，并在 GPU 内存、CPU 内存和存储之间迁移缓存。IBM 称在一项智能体编码测试中路由器捕获了 97% 的可用缓存复用，IBM 与 Red Hat 还在自建基础设施上并发运行 3000 个软件工程智能体，成本比通过托管服务运行同一开源模型低 5 到 10 倍。
#开源/仓库#部署/工程#Agent
Scaled Cognition 发布文本转语音模型 Voice，支持 25 种以上语言和声音克隆，可通过 API 调用或自托管部署，主打账号、地址等细节的准确朗读。托管 API 定价为每百万字符 9 美元，自托管为每百万字符 1 美元（不含基础设施），公司称 500 万字符规模下含基础设施约每百万字符 13 美元，并宣称语音生成延迟为 70 毫秒。Voice 的 Smart Pronunciation 能力会先判断缩写和数字的含义再生成音频，例如把 Pay 1/2 by 1/2 读作 pay half by January second，且不依赖 APT 或其他大语言模型即可运行。
#模型发布#语音#部署/工程
Adobe 宣布 iOS、iPadOS 和 Android 版 Lightroom 移动端可用生成式 AI 一键睁开照片中闭上的眼睛，检测到人物闭眼时会自动在图片上显示 Open Eyes Quick Action 图标。该功能会参考用户 Lightroom 图库中同一人物的其他照片，使替换后的眼睛在颜色、大小和形状上匹配，并让光线与姿态一致。Adobe 的 Photoshop Elements 近十年来也有类似功能，但其替换素材取自该人物的另一张照片，效果受两张照片差异影响。
#产品更新#图像生成#端侧
DeepSeek 宣布全面开源内部推理框架 DeepInfer，集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。技术报告披露，基于 DeepInfer 已实现 DeepSeek V4.1 Flash 的大规模推理服务，单一集群服务吞吐为 155 万亿 Tokens/天，整体收入为每卡每小时 38 美金（按谷价）。DeepSeek 同时开源生产级 Token 编解码组件 deepseek-recipe，与官方 API 处理逻辑完整对齐。
#开源/仓库#推理#部署/工程
PyTorch 2.15 在 MPS 后端加入 FP8 支持，并让 MoE 模型解码速度比 2.14 快 5–6.5 倍：在 M3 Ultra 上配合 torch.compile，Qwen3.6-35B-A3B 从 9.4 tokens/s 提升到 61.3 tokens/s，LFM2.5-8B-A1B 从 23.6 提升到 123.6 tokens/s。Wan2.2 的 tiled VAE 视频解码峰值驱动内存从约 270 GiB 降到 8 GiB，Qwen-Image-2.1 的 VAE 编码在 MPS 上的图像损坏问题也随 padding 改动修复，编解码往返 PSNR 从 10.06 dB 升到 29.95 dB。该版本要求 macOS 15 或更高版本、Python 3.11 或更高版本。
#产品更新#部署/工程#开源生态
Hugging Face 发布 AnyLanguageModel 1.0，用同一套会话代码即可调用系统模型、llama.cpp、MLX、Core ML 的开放权重模型以及多家托管服务商。该版本让工具调用和引导生成覆盖所有服务商，支持在提示词中附带图片，并新增对 Anthropic Messages API、Gemini API、Ollama、Private Cloud Compute 和 Hugging Face Inference Providers 的支持。文中还列出 Gemma 4 E2B、LFM2.5 2.6B、Qwen3.8 27B 等当前下载量较高的模型及其量化后体积。
#产品更新#开源生态#端侧
Google 发布 Coral NPU 完整 32 位架构（含新增 Matrix Execution Unit，可配置至 1 TOPS、推理平均功耗目标 10mW）和基于 IREE/MLIR 的开源 Coral Compiler v1.0，支持 JAX、PyTorch、TensorFlow 模型直接编译到该硬件。完整 32 位 RTL 已在 GitHub 开放，Synaptics 同步推出搭载第二代 Coral NPU IP 的 Astra SR200 系列 MCU（400 GOPS）和 Coralboard SR 开发套件，Coralboard SL（1 TOPS）经 DigiKey 全球发售。两代产品共用同一架构与编译器，模型优化一次即可部署到毫瓦级可穿戴设备或 1 TOPS 板卡。
#产品更新#端侧#开源生态
小米技术宣布 Xiaomi MiMo-V2.6-Pro 正式上线 WorkBuddy，支持 1M 超长上下文、多智能体分工协作，以及图像、视频、音频、文本全模态联合理解。该模型在 Artificial Analysis 智能指数为 46 分，官方称全球开源第一。MiMo-V2.6 系列于 9 月 22 日发布并开源，含 Pro 与 Flash 两个原生全模态模型，Pro 定价为每百万词元输入 3 元、输出 6 元，并提供 99% 缓存折扣。
#产品更新#Agent#多模态
Cursor 发布 Agent SDK，这是其构建 Bugbot、Security Reviewer 和 Rollouts 等托管智能体所用的框架，开发者可用代码定义智能体并通过 agent-sdk deploy 一条命令部署到 Cursor 基础设施。智能体以小型软件项目组织，提示词用 Markdown 编写、工具用 TypeScript 函数定义，可响应 GitHub、GitLab、Bitbucket 的 PR 事件，并内置 evals 与事件回放。也可打包为单个 Node 进程运行在自有基础设施上。
#产品更新#Agent#部署/工程
🚀 Introducing DeepInfer, our in-house inference framework, now fully open source! Powering DeepSeek-V4.1-Flash at scale with high throughput and low latency. We’re sharing our production stack to help the community lower compute costs, reduce energy use, and make AI more affordable. 🔗 https://t.co/JGAik1kgk0 1/4
#开源/仓库#推理#部署/工程
#开源/仓库#Agent#MCP/工具调用
NEW: @bot tagging just went live. Reply to any post: > @bot add this to my Notion reading list > @bot remind me to read this tomorrow > @bot summarize this thread > @bot draft a reply to this Works in replies, posts, quote and lands right in your Grok Bot. What’s the first thing you’re handing it?
#产品更新#MCP/工具调用#xAI
Today, Dream Labs is coming out of stealth with Dream-1, a robot foundation model that controls bimanual robots it has never seen, on tasks it was never shown, in places it has never been, from $3/hour. Dream API is live for everyone, today. 🧵 https://t.co/MB1snhUOAJ
#大佬观点#产品更新#具身智能
#产品更新#OpenAI#MCP/工具调用