Databricks AI Gateway 让内部编码智能体用上 OSS 模型
我们通过 Databricks AI Gateway 把 OSS 模型推广到所有内部编码智能体。 随后工程师们*意外*发现它们有多强大。 “我今天完全没去用 Sol(或 Opus/Astra)。”
匹配字段标题、摘要
我们通过 Databricks AI Gateway 把 OSS 模型推广到所有内部编码智能体。 随后工程师们*意外*发现它们有多强大。 “我今天完全没去用 Sol(或 Opus/Astra)。”
匹配字段标题、摘要
NVIDIA 发布 SWE-Serve,用 53 个源自 83 个已合并 SGLang PR 的推理工程任务评测 AI 编码智能体,覆盖模型启用、解码、缓存、调度、服务 API 和分布式执行六类。在 19 个启动真实服务器的任务中,同一批补丁完整验证通过率为 45.9%,去掉实时服务检查后升至 69.4%,约三分之一补丁在真实服务路径上失败。11 个模型在 mini-swe-agent 闭卷条件下平均 pass@1 为 34.6% 至 75.5%,Claude Opus 5 与 GPT-5.6 Sol 最高约 75%。
匹配字段标题、摘要
开源终端 AI 编码智能体 OpenCode 可接入 Amazon Bedrock 上的开放权重模型,推理在用户自己的 AWS 账户内完成,无需管理基础设施,也没有按席位收费。文章演示了用 Moonshot AI Kimi K3、OpenAI GPT-OSS 120B 和 NVIDIA Nemotron 3 Super 120B 配置多模型工作流,并介绍 Bedrock 的三种定价层级:Priority、Standard 按 token 计费,Flex 成本低 50%。
匹配字段标题、摘要
今天试了 Opus 5.5。说实话没被惊艳到。 - 让它研究一个我最近学到的棘手问题。它答错了。Astra 答对了。 - 编码方面,Astra 感觉还是更好。 这印证了我之前的看法:前沿 LLM 的编码能力已经停滞。 现在的竞争越来越在于每美元能买到的智能。
匹配字段标题、摘要
Modal 官方工程博客复盘了为编码智能体提供推理服务的优化过程,以 Moonshot AI 的 Kimi K2.6 为例,单副本每用户性能提升 2.8 倍、副本整体提升 5.6 倍。他们用 NVFP4 微缩放格式在 B200 上部署约一万亿参数的模型,基于 SGLang 打补丁并回馈上游,通过 DFlash 投机解码、KV cache 量化与 HiCache 扩展缓存,再配合负载感知的有状态路由,把服务扩展到每天处理数千亿 token。相关代码与配置已作为 Modal Auto Endpoints 的开源后端发布。

匹配字段标题、摘要
MiniMax H3 视频 VAE 在 Nvidia GPU 上编码最高提速约 2.2 倍、解码提速约 1.4-2.7 倍,1344x768、129 帧的编解码往返从 24.3 秒降至 12.7 秒。改动包括默认开启的融合编码器 kernel、支持 --fast fp16_accumulation 的自定义卷积,以及 int8 解码器;int8 解码器与标准解码器 PSNR 均为 67.7 dB。需将 ComfyUI 升级到 v0.36.0 以上,并加载 int8 MiniMax-H3 VAE 文件。

匹配字段标题、摘要
阶跃星辰发布并开源 Step Code v0.1.0,采用 MIT 许可证,通过一个 CLI 覆盖从读改代码到运行测试和交付的完整开发流程。官方评测显示,它在 Terminal-Bench 2.1 上通过 72/89 个任务(80.9%),与并列领先者通过率相同但 token 用量更少;在自建 150 任务长程基准 Multi-Frame 上通过 110/150(73.3%),平均 5.09M tokens/task,在六个被测 harness 中通过率最高、token 用量最低。该工具还内置 StepPage,可用一条命令发布本地静态站点,并支持版本管理与回滚,可在 macOS、Linux 或 WSL 上安装。
匹配字段标题
阶跃星辰发布 Step Code v0.1.0,以 MIT 许可证开源,可在单个 CLI 中完成读改代码、跑测试到交付的完整开发流程。官方称其在 Terminal-Bench 2.1 上通过 72/89 个任务(80.9%),在自建 150 任务长任务基准 Multi-Frame 上通过 110/150(73.3%),平均每任务 5.09M tokens,为六套评测框架中通过率最高且 token 用量最低。工具还内置 StepPage,可用一条命令发布本地静态站点,并支持版本管理与回滚;支持 macOS、Linux 和 WSL 安装,Windows 的 PowerShell 支持处于 beta 阶段。
匹配字段标题
Hugging Face 发布 tokenizers v1,在 Apple M4 Max 单线程下编码速度比 v0.23 快 3 到 30 倍(最低 t5-base,最高 gpt2),八线程扩展效率为线性的 76%。v1 保持与 v0.23 完全相同的 token ID、API、词表和 merge ranks,并覆盖 v0.23 支持的全部 tokenizer 家族。提速主要来自手写 SIMD 预分词、线程本地词缓存和复用 scratch buffer 的 BPE merge 循环。
匹配字段标题、摘要
Fireworks AI 在 DeepSWE v1.1 的 113 个编码任务上测试 18 个模型,单一最佳模型 GPT-6 Astra 通过率 74.1%、每任务成本 6.52 美元,而按任务事后挑选最优模型可达 97.6%、每任务 1.88 美元。仅用开源模型池(DeepSeek V4 Flash 与 Pro、GLM-5.3 与 GLM-5.3 Flash、Kimi K3、Qwen3.8 Max)也能达到 90.3%、每任务 1.45 美元。作者指出该结果是事后视角的上限,真实路由需在任务开始前预测模型,并称 FireRouter 在其四周生产编码流量中把 2334 个会话的成本从 15.81 美元降至 7.42 美元。
匹配字段标题、摘要
Fireworks 基于 DeepSWE v1.1 的 113 个智能体编码任务、18 个模型各四次 rollout 分析发现,单一最佳模型 GPT-6 Astra 通过率 74.1%、每任务成本 6.52 美元,而事后为每个任务挑选最优模型可达 97.6%、每任务 1.88 美元。仅限开源权重模型(DeepSeek V4 Flash 和 Pro、GLM-5.3 和 GLM-5.3 Flash、Kimi K3、Qwen3.8 Max)时仍达 90.3%、每任务 1.45 美元。Fireworks 称其 FireRouter 在四周 2334 个生产编码会话中把成本从单用 Opus 5 的 15.81 美元降至 7.42 美元,降幅 53%。
匹配字段标题、摘要
xAI 发布 Grok 4.7,称其为面向编码与知识工作最强的模型,速度是同类模型的两倍、价格为其一半。该模型采用更大的基座模型,并用更长的强化学习训练,侧重需要数小时完成的任务,自检与长上下文管理能力更强,同时原生理解 Grok Bot harness。安全方面采用全新防护栈,在 LatchBio 生物安全基准上达到 62.4%,HackerBench v0.3 上仅放行 3.3% 的高风险双用途提示。Grok 4.7 已在 Cursor 和 Grok Build 上线,并通过 Grok API、第三方编码 harness、模型路由器和云平台提供,定价为每百万输入 token 2 美元、每百万输出 token 6 美元,另有输出速度翻倍、价格翻倍的快速版本。
匹配字段标题、摘要
一家全球金融科技公司通过 Together 的 Dedicated Model Inference 在 GLM 5.2 上运行编码助手,应对集中在工程时段的高并发突发流量。该工作负载的 ISL p50/p90/p95 约为 81K/163K/178K tokens,RPS p50/p90/p95 为 3/6/7,客户团队可自助扩缩端点、调整路由策略并当天零停机完成配置变更。团队评估后放弃 1M 上下文配置,保留 256K/512K 以维持并发余量。
匹配字段标题、摘要
Projects 不仅改变了我与 Claude 的交互方式,也改变了我的编码方式。 我不再管理会话。想到什么就发出去,Claude 会把它拆分成多个线程,项目会记住我的工作方式。现在我的大量编码都在这里完成。 [截图:我昨天在 claude code cli 里的实际提示词]
匹配字段标题、摘要
Fireworks 对 DeepSeek-V4.1-Flash 做了完整基准测试,在 DeepSWE 上达到 GPT-6 Astra 级别的编码精度,单任务成本 0.43 美元,比 Gemini 3.8 Flash 低 5.5 倍、比 GPT-6 Astra 低 15 倍、比 Claude Opus 5 低 28 倍。该模型为 552B 参数 MoE,采用编码器-解码器分离架构,输入 8B、输出 16B 激活参数,KV Cache 相比 DeepSeek V4 仅占 1/4 HBM 和 1/8 SSD 存储,本次运行 99.6% 输入 token 命中缓存。在 HLE 上它单独运行得 34.52%,落后于 Astra 的 50.40%,但与 Astra 组成 oracle router 后达到 54.80%,高于 Astra 单独运行。
匹配字段标题、摘要
DeepSeek 本周发布并开源 DeepSeek-V4.1-Flash,这是一个 552B 参数、8B 激活参数用于 prefill、16B 用于 decode 的多模态 MoE 模型,支持 1M token 上下文窗口,已上线 HuggingFace 与 Baseten Model APIs。它采用 Causal Encoder-Decoder 架构,prefill 只跑 20 层编码器,decode 跑完整模型,官方称全局 KV cache 内存仅为 V4-Flash 的四分之一。在编码与智能体基准上,V4.1-Flash 以约三分之一的总参数量超过 V4-Pro,长程智能体任务提升达两位数,但 Automation-Bench 得分 54.8,复杂工作流仍有约一半失败。

匹配字段标题、摘要
GitHub Copilot 应用内置 diff、终端和浏览器三个面板,让用户无需在编辑器、终端和浏览器之间切换即可审查、运行并预览智能体生成的代码。diff 面板以绿色标注新增、红色标注删除,可接受改动、留言或让 Copilot 继续修改;终端面板支持运行项目命令并同时打开多个终端窗口;浏览器面板的 Pick & Polish 工具可选中页面元素让智能体调整。确认无误后可直接在应用内接受改动并创建 pull request。
匹配字段标题
Cognition 发布编码模型 SWE-2,在 FrontierCode 1.1 Main 上得分 50.0%,比 Fable 5.1 低不到 1 分而成本便宜 64%。SWE-2 基于 2.8T 参数的 Kimi K33 后训练,首次把 RL 扩展到数万亿参数规模,并用单次 RL 训练覆盖全部推理档位。该模型即日起在 Devin Desktop 和 CLI 上线,随后在 Devin Web 和 Fusion 推出。
匹配字段标题、摘要
NVIDIA 与 Palantir 合作在 Palantir Foundry 中构建数字供应链智能指挥中心,将材料、制造基地、产能、分配等数据统一到 Ontology 数据层,并用开源 GPU 加速决策优化库 NVIDIA cuOpt 求解关键材料分配问题,目标是最小化 Time of Ownership(TOO)。cuOpt 以混合整数线性规划求解,还能报告哪些约束成为瓶颈,让规划者快速探索不同情景。NVIDIA 称 Vera Rubin 的供应链规模是 Grace Blackwell 的两倍。
匹配字段标题
Google Developers Blog 发文介绍 harness 工程中的行为评测方法,主张用离散可观察动作的断言替代只看 Terminal-Bench、DeepSWE 等端到端基准的复合分数。文章建议从开发者直觉和 dogfooding 起步,等智能体能处理自身代码库后再引入评测,并给出三步循环:选定一个失败模式、按任务复杂度写灵活断言、用批量评测跟踪聚合通过率。作者强调行为评测与端到端评测互补,前者用于安全快速迭代,后者验证最终结果。

匹配字段标题