Thinking Machines Lab 发布多模态混合专家模型 Inkling，Together AI 同日在其推理平台上线。Inkling 接受文本、图像和音频输入并输出文本，支持可调推理强度，总参数 975B、每 token 激活 40B、上下文窗口 1M tokens。Together AI 称其采用基于 FlashAttention-4 的注意力内核，通过 Serverless 单端点提供三种输入模态。
匹配字段摘要
Cognition 与 Windsurf 合并一年后，Devin 已从初级工程师水平成长为可调度、管理其他 Devin 的中高级智能体，并具备自我验证与自动修复能力。团队自研模型迭代至 SWE-1.7，推理速度约 1000 tokens/秒，并推出 Devin Review、Devin CLI、Devin 2.2、Windsurf 2.0 与 Devin Desktop。公司规模从 44 人增至 350 人，营收运行率从 7300 万美元增至 5 亿美元以上。
匹配字段摘要
Redis 作者 antirez 主张，AI 编程时代程序员应把精力放在控制软件的想法与设计上，而非逐行阅读代码。他称自己仍会审查 AI 为 Redis 生成的代码，但认为这已基本无意义，尤其自 GPT 5.5 发布、以及 Fable 和 GPT 5.6 Sol 出现之后。他用 DwarfStar 为 DeepSeek v4 和 GLM 5.2 实现推理，指出本地推理领域充满细微错误，AI 在设计严谨性与测试上远胜手写 GPU kernel。
匹配字段摘要
Benedict Evans 分析 token 定价的供需与成本结构，认为当前供给紧张是暂时的，所有变量都在变化，市场将在未来几年重新平衡。他指出推理毛利率约 40-50%，但训练成本远高于收入，且需求主要来自软件开发这一单一用例。他通过移动数据和半导体制造的类比，提出基础模型可能走向低利润的商品化基础设施，除非出现网络效应、监管干预或其他未预见的变化。
匹配字段摘要
Ollama 宣布完成 8800 万美元融资，投资方包括 Benchmark 的 Peter Fenton、Theory Ventures 的 Tomasz Tunguz、8VC 的 Alex Kolicich，以及 Docker 创始人 Solomon Hykes、ClickHouse CEO Aaron Katz、Y Combinator 等。官方称 Ollama 已服务 8.9 百万开发者，被 85% 的财富 500 强企业使用，其云服务 token 量平均每月翻倍以上。这笔资金将用于推进无缝混合推理、在新开源模型发布当天提供支持，以及让团队在不放弃所有权和隐私的前提下使用最强模型。
匹配字段摘要
Hugging Face 更新了 vLLM 的 Transformers 建模后端，使兼容架构无需编写定制推理代码即可达到原生 vLLM 速度。该后端通过 torch.fx 分析模型图，并用 ast 重写操作、应用融合内核，已对 Qwen3 4B、32B 和 235B FP8 MoE 模型进行对比测试。目前尚不支持线性注意力，代码位于 Hub 仓库的自定义模型也可能无法运行。
Hugging Face 更新了 vLLM 的 Transformers 建模后端，使兼容架构无需编写定制推理代码即可达到原生 vLLM 速度。该后端通过 torch.fx 分析模型图，并用 ast 重写操作、应用融合内核，已对 Qwen3 4B、32B 和 235B FP8 MoE 模型进行对比测试。目前尚不支持线性注意力，代码位于 Hub 仓库的自定义模型也可能无法运行。 · Hugging Face updated vLLM’s Transformers modeling backend so compatible architectures can reach native vLLM inference speed without custom inference code. The backend analyzes model graphs with torch.fx and uses ast to rewrite operations and apply fused kernels, with comparisons covering Qwen3 4B, 32B, and
匹配字段摘要
Berkeley AI Research 博客指出，GPT-4 级能力从 2023 年初约 $30/百万 token 降至如今不到 $1，部分厂商已低于 $0.10，推理价格年降幅在 9x 到 900x 之间、中位数约 50x。作者提出近零推理成本下的三大方向：为智能体设计的数据系统、支撑智能体集群的数据系统，以及由智能体合成数据系统。其中智能体查询会产生大量重复子计划，text-to-SQL 基准中仅 10-20% 子计划互不相同。
匹配字段摘要
Modal 官方工程博客发布交互式工具，帮助团队估算 serverless 与预留 GPU 的成本，默认采用 Modal 上 B200 的 serverless 现价与超大规模云厂商三年预留价格。模型显示，当峰值与均值比高于预留折扣率时，serverless GPU 总成本更低；Modal 观察到推理、训练和智能体开发负载的峰值均值比常达 5:1 甚至 10:1，而行业调查显示预留 GPU 利用率普遍低于 30%、常低于 10%。
匹配字段摘要
Hugging Face 与 Cerebras 搭建了开放、模块化的实时语音到语音管线，以 Nvidia Parakeet 识别语音、在 Cerebras 上运行 Google DeepMind Gemma 4 31B，并通过阿里巴巴 Qwen3TTS 生成语音回复。Cerebras 旨在缩短并稳定模型推理延迟；该管线已用于超过 9,000 台 Reachy Mini 机器人，开发者可体验 Demo 并查看 huggingface/speech-to-speech 仓库。
Hugging Face 与 Cerebras 搭建了开放、模块化的实时语音到语音管线，以 Nvidia Parakeet 识别语音、在 Cerebras 上运行 Google DeepMind Gemma 4 31B，并通过阿里巴巴 Qwen3TTS 生成语音回复。Cerebras 旨在缩短并稳定模型推理延迟；该管线已用于超过 9,000 台 Reachy Mini 机器人，开发者可体验 Demo 并查看 huggingface/speech-to-speech 仓库。 · Hugging Face and Cerebras built an open, modular real-time speech-to-speech pipeline using Nvidia Parakeet for speech recognition, Google DeepMind’s Gemma 4 31B running on Cerebras, and Alibaba’s Qwen3TTS for spoken responses. Cerebras is intended to reduce a
匹配字段摘要
Together AI 宣布完成 8 亿美元 C 轮融资，投资方包括 NVIDIA、Aramco Ventures、Vista Equity、General Catalyst 等，并额外锁定超过 500 MW 算力容量。其平台客户涵盖 Cursor、Eleven Labs、Suno、Cognition、Decagon 等，使用 DeepSeek、Nemotron、MiniMax、Kimi、GLM 等开源权重模型可实现 6x 至 20x 的成本降低，Decagon 迁移后推理成本下降六倍。
匹配字段摘要
Anthropic 发布 Claude Sonnet 5，称其为迄今最具智能体能力的 Sonnet 模型，在推理、工具使用、编码和知识工作方面较 Sonnet 4.6 有显著提升，性能接近 Opus 4.8 但价格更低。该模型现已在所有套餐中可用，定价为每百万输入 token 2 美元、每百万输出 token 10 美元，开发者可通过 Claude API 使用 claude-sonnet-5。
匹配字段摘要
Together AI 在 ICML 2026 发表九篇论文，覆盖从智能体到 GPU kernel 的全栈研究。其中 ThunderAgent 为智能体推理带来 1.5–3.6 倍吞吐提升，三行代码即可接入；TTT-Discover 用开源 gpt-oss-120b 在数学、GPU kernel、竞赛算法和生物学四个领域取得 SOTA 发现，单题成本约 500 美元。Aurora 自适应投机解码已作为 ATLAS speculator 落地生产。
匹配字段摘要
Google Research 提出将多 token 预测（MTP）改造到已冻结的 Gemini Nano v3 上，在不改动主干权重的前提下加速端侧推理。该方法在主干最后几层附加轻量 Transformer 头，直接交叉注意力读取主干的 KV cache，省去独立草稿模型的预填充延迟，并比独立草稿模型节省最多 130MB 内存。在 Pixel 9 上，其 token 预测速度比同参数量独立草稿模型快 50% 以上，已随 Pixel 9 和 10 系列推送，用于 AI 通知摘要和校对等功能。
匹配字段摘要
LMSYS 在 SGLang 中为 DeepEP MoE 推理引入两种调度期负载均衡方案：面向共享专家路径的 Waterfill 和基于线性规划、面向冗余专家副本的 LPLB。在两台 Hopper GPU 节点上，Waterfill 在 MMLU、GPQA、GSM8K 上把总吞吐提升 1.48% 至 4.66%，DeepSeek V4 上最佳点从 49,253 tok/s 升至 51,677 tok/s（+4.92%）；LPLB 在冗余 EPLB 部署下提升 0.84% 至 7.34%。
匹配字段摘要
一篇拖了很久（3 年多？）的关于 scaling laws 的文章。 算力很贵。scaling laws 是一种帮助我们在投入大规模训练之前，推理数据与模型规模之间最优算力分配的方法。 文章涵盖 scaling laws 预测了什么、算力最优分配如何运作、为什么 Kaplan et al. 与 Chinchilla 结论不一致，以及数据限制 + 拟合细节如何让外推变得棘手。
一篇拖了很久（3 年多？）的关于 scaling laws 的文章。 算力很贵。scaling laws 是一种帮助我们在投入大规模训练之前，推理数据与模型规模之间最优算力分配的方法。 文章涵盖 scaling laws 预测了什么、算力最优分配如何运作、为什么 Kaplan et al. 与 Chinchilla 结论不一致，以及数据限制 + 拟合细节如何让外推变得棘手。
匹配字段摘要
安全研究者 Johann Rehberger 复现了针对 Claude Computer-Use 的 TOCTOU 竞态攻击，利用推理期间屏幕变化让智能体点击与预期不同的对象。他构造的钓鱼页面把 Continue 按钮放在 Outlook 草稿 Send 按钮的同一位置，并用 bash 计算 1+1 拖延时间等待页面加载，从而让智能体误点发送邮件。作者去年十月已向 Anthropic 报告，对方称已跟踪该风险，并在后续 Cowork 中表示会在动作前确认像素未变化。他建议在推理开始和结束时各做一次快照，确认 UI 未发生显著变化再执行动作。
匹配字段摘要
Modal 发布 serverless Servers，为 HTTP、WebSocket 和 gRPC 流量提供区域化、自动扩缩的 HTTP 服务器副本池，面向 LLM 推理等毫秒级敏感场景，将 p50 延迟从 39ms 降至 6ms。与内置队列和平台管理请求生命周期的 Modal Web Functions 不同，Servers 走更轻量的低延迟路径，无可用副本时客户端收到 503，队列与降载交由容器应用处理。
匹配字段摘要
Liquid AI 发布目前最小的模型 LFM2.5-230M，基于 LFM2 架构，预训练 19T tokens 并含 32K 上下文扩展阶段，Base 与后训练版本已在 Hugging Face 开放。官方称其在 Galaxy S25 Ultra 上解码速度 213 tok/s、Raspberry Pi 5 上 42 tok/s，并在 GPQA Diamond、MMLU-Pro、IFEval、BFCLv3/v4 等十项基准上与参数量两倍以上的模型竞争。该模型已适配 llama.cpp、MLX、vLLM、SGLang 和 ONNX，官方同时提示不适合高级数学、代码生成和创意写作等重推理任务。
匹配字段摘要
Google DeepMind 将 computer use 作为内置工具集成进 Gemini 3.5 Flash，此前该能力仅以独立的 Gemini 2.5 computer use 模型形式提供。开发者可通过 Gemini API 和 Gemini Enterprise Agent Platform 使用它构建能跨浏览器、移动端和桌面环境感知、推理并执行操作的智能体，面向持续软件测试等长周期与企业自动化任务。为降低实时环境中的提示词注入风险，官方对 computer use 做了针对性对抗训练，并发布两套可选的企业级防护系统。
匹配字段摘要
Interconnects 作者认为 GLM-5.2 是首个在编码智能体框架中真正好用的开源权重模型，社区基准显示它是唯一能与 OpenAI、Anthropic 最新模型同场竞争的开源模型。作者实测用 Fireworks API 在 Claude Code 中调用该模型，整体能力立刻感觉可用，但遇到框架向模型发送图片导致 API 会话中断、需手动清空上下文的问题。作者测算 Claude Opus 4.5 发布到 GLM-5.2 发布相隔 204 天，落在常说的 6 至 9 个月开源与闭源性能差距区间内，并认为这会加剧 token 消耗大户的定价压力，利好开源模型推理与微调生态。
匹配字段摘要、正文