Anthropic 用真实部署资源提升编码审计真实度：reward hacking 审计真实率从 4.6% 升至 32.8%
Anthropic 提出 realism win rate 指标，衡量 Petri 审计记录与真实部署交互的可区分程度。给 Petri 审计器提供真实 system prompt、工具定义和代码库后，reward hacking 审计的平均真实率从 4.6% 提升到 32.8%，且 hack rate 无显著变化。该功能已上线 Petri 最新版本。
匹配字段标题
←搜索结果
搜索“编码”
Anthropic 提出自然语言自编码器 NLA，无监督解释 LLM 激活
Anthropic 提出自然语言自编码器（NLA），由激活语言化器（AV）与激活重建器（AR）两个 LLM 模块组成，用强化学习联合训练以重建残差流激活，从而生成可读的自然语言解释。在 Claude Opus 4.6 的部署前审计中，NLA 帮助诊断安全相关行为并发现模型未说出口的评估意识；在自动化审计基准上，配备 NLA 的智能体优于基线，且无需访问被错位模型的训练数据。Anthropic 同时发布了训练代码和面向主流开源模型的已训练 NLA。
匹配字段标题、摘要
TensorZero 如何用每次 Git 提交自动评估 AI 编码助手
TensorZero 工程博客介绍了一套自动评估 AI 编码助手的方法：用 tree-sitter 把 LLM 生成的代码片段和 Git 提交中的新增代码解析成语法树，再用树编辑距离（TED）计算两者的最小差异，归一化后得到 0 到 1 的奖励值，作为反馈写回 TensorZero。该流程以 Rust 二进制实现，可作为 post-commit git hook 在每次提交后自动运行，并通过 rayon 并行计算。作者称其 CTO Viraj 的个人使用数据显示 GPT-4.1 的效果不如 Claude 3.7 Sonnet、Gemini 2.5 Pro 和 o4-mini，但强调这只是初步结果，不主张某个模型普遍更优。
匹配字段标题、摘要
OpenAI 用稀疏自编码器潜在归因调试模型失准补全
OpenAI 提出用稀疏自编码器（SAE）的潜在归因方法，在单个模型上定位与失准行为因果相关的潜在特征，替代此前需要对比两个模型的两步模型差分法。在涌现性失准案例中，该方法选出的 top-100 Δ-attribution 潜在特征比 Δ-activation 特征有更多能通过激活引导使模型远离或走向失准，平均失准变化也更大；第二个案例则针对模型不当认可用户信念的行为。
匹配字段标题、摘要
如何只用自己拥有的文件约束编码智能体
Tessl 博客提出用四个杠杆约束编码智能体：CLAUDE.md 指令、.claude/rules/ 路径规则、.claude/commands 等能力配置，以及 .claude/hooks/ 检查。同一张工单的裸跑只改了 3 个文件、加 49 行、8 项检查过 1 项；配好 charter 后改 3 个文件、加 102 行、8 项全过。作者强调只有 hook 能直接拒绝写入，其余三个杠杆只能影响智能体读到和能触及的内容。
匹配字段标题、摘要
JetBrains 论文：编码智能体基准应匹配真实任务流
JetBrains 研究论文提出编码智能体基准应匹配用户真实任务流：分析 4,782 个真实会话发现功能开发与缺陷修复占比远低于一半，而 SWE-Bench Pro 中这两类任务占 93.8%。团队构建 SWE-TaskFlow，将每个基准问题拆成多轮并加入可校验的代码问题，在 700 个 SWE-Bench Pro 任务上拆分使智能体成本约翻倍，成功率无稳定变化。
匹配字段标题、摘要
Reflection 发布首个开放权重模型 Beam：501B 参数 MoE，主打编码与智能体
Reflection 发布首个开放权重模型 Beam，采用稀疏 MoE 架构，总参数 501B、激活 23B，面向编码、推理和智能体任务。该模型在 23.8 万亿 token 上预训练，并用 10.5K NVIDIA GB300 GPU 进行四周高算力 RL，生成超 1 亿条 rollout。Reflection 表示 Beam 在编码和智能体任务上可与 GLM 5.2 竞争、接近 Qwen 3.8-Max，优势在于推理效率，本月将以 Apache 2.0 协议发布权重、技术报告和模型卡。
匹配字段标题、摘要
Goodfire 用稀疏自编码器理解与操控 Llama 3
Goodfire Research 发布 preview.goodfire.ai，一个通过稀疏自编码器（SAE）理解和操控 Llama-3-8B 行为的桌面界面。团队在 Llama-3-8B 上训练了 SOTA SAE，发现 LMSYS-Chat-1M 聊天数据集能产生最适合聊天应用的特征，并用自动化可解释性流程为特征生成人类可读标签。该界面结合 Llama-3-8B-Instruct 与后端 SAE 模型，让用户通过特征干预精确改变模型输出。
匹配字段标题、摘要
Goodfire 首次在 671B 参数 DeepSeek R1 上训练并开源稀疏自编码器
Goodfire 在 671B 参数的 DeepSeek R1 上训练并开源了两个稀疏自编码器（SAE），分别基于自建推理数据集和 OpenR1-Math 数学推理数据集，这是首批在真正推理模型及该参数规模上训练的公开解释器模型。实验发现 R1 与非推理语言模型存在本质差异：需等模型输出“Okay, so the user has asked a question about…”这类前缀后才能有效引导，且过度引导反而会让模型回退到原始行为。
匹配字段标题、摘要
Goodfire 研究：特征流形存在下的稀疏自编码器扩展
Goodfire Research 发布研究《Understanding Sparse Autoencoder Scaling in the Presence of Feature Manifolds》，探讨特征流形存在时稀疏自编码器的扩展问题，原网页会跳转至对应的 arXiv 论文。该页面同时列出其可解释性智能体 Silico，称可跨各类 AI 模型解释、调试并精确控制模型行为。
匹配字段标题、摘要
Goodfire 在 Evo 2 中发现生命之树：系统发育被编码为弯曲流形上的几何距离
Goodfire Research 发现，DNA 基础模型 Evo 2 将物种间的系统发育关系以几何方式编码在一条弯曲流形上的距离中，这是目前在基础模型中发现的最复杂流形案例之一。研究基于 Genome Taxonomy Database（GTDB）中 2400+ 个细菌物种的系统发育树，结果支持特征流形通常具有主导的平坦表示加上更高曲率偏差的图景。
匹配字段标题、摘要
Goodfire 发布 Llama 3.3 70B 的稀疏自编码器与特征空间地图
Goodfire 在 Llama 3.3 70B 上训练了稀疏自编码器（SAE），并通过 API 开放该可解释模型，称这是目前可公开获取的最强可解释性工具模型。文章展示了中间层特征空间的交互式 UMAP 地图，并演示了特征引导效果，例如在引导强度 0.4 时模型开始出现海盗语气，0.6 时多数事实仍正确但星系大小出错，强度 1 时大量事实错误。团队还改进了基于 SAE 的引导方法，并说明在 Llama 3.1 8B 和 Llama 3.3 70B 的 SAE 中分别移除了约 30% 和 3.5% 的特征，安全研究者可邮件申请未审核版本。
匹配字段标题、摘要
Figma：FigJam 成为编码智能体的白板
Figma 为 FigJam 加入新的 MCP 技能、架构布局等功能，使其成为编码智能体的白板，用来弥合智能体改代码速度超过团队跟进速度的差距。
匹配字段标题、摘要
报道称 Google Gemini 4 Carbon 编码性能对标 Anthropic Opus 5.5
据 Business Insider 看到的文件、截图和内部聊天记录，Google 正在测试 Argon、Barium、Carbon 三个 Gemini 4 变体，其中 Carbon 已部署在内部编码平台 Jetski 上，据说在编程任务上强于 Argon。一名员工将 Carbon 与 Anthropic 最强的编码模型 Opus 5.5 相比，但表示仍需更多测试。Google 将模型角色划分为 Argon 负责前沿推理、Flash 负责速度与吞吐、Omni 负责生成式媒体、Gemma 负责轻量开源端侧，Carbon 和 Barium 可能是 Argon 家族内的检查点或更新。Gemini 4 尚无官方发布日期，Gemini 应用已出现 3 系列模型的 Automatic 模式和可调推理强度，Google AI Studio 也出现了 Ultra 模式。
匹配字段标题、摘要
微软 CABRA 研究：编码智能体瓶颈在读懂代码而非改代码
微软论文发现编码智能体在需要理解大量代码时出错，而非在大量编辑时出错，因此应以阅读和比较代码而非 diff 大小来评测。团队构建 CABRA 生成合成编码任务，每次只提升一种难度，用 8 个 LLM 和 6 个智能体跑了 6,840 个任务，并把每次工具调用标注为阅读、分析、搜索、编辑或测试。纯 LLM 随任务变难而变差，智能体靠 grep 等工具保持接近满分；在 SWE-bench Verified 上，阅读与分析调用次数比编辑行数更能预测智能体失败，相关系数为 -0.200 对 -0.159。
匹配字段标题、摘要
月之暗面开源 Kimi K2.6，主打长程编码与 Agent Swarm
月之暗面开源最新模型 Kimi K2.6，具备编码、长程执行和 Agent Swarm 能力，已上线 Kimi.com、Kimi App、API 和 Kimi Code。官方称其在长程编码任务上较 K2.5 明显提升，例如在 Mac 上用 Zig 实现并优化 Qwen3.5-0.8B 推理，经 4000+ 次工具调用、超 12 小时连续执行和 14 轮迭代，吞吐从约 15 tokens/sec 提升到约 193 tokens/sec。Agent Swarm 架构从 K2.5 的 100 个子智能体和 1500 步扩展到 300 个子智能体、4000 步并发执行，并新增 Claw Groups 研究预览。
匹配字段标题、摘要
Databricks 用 Lakebase 数据库分支为编码智能体提供隔离环境
Databricks 介绍 Lakebase Postgres 的数据库分支能力，基于 copy-on-write 可在不到一秒内为任意大小的数据库创建分支，分支间数据共享、仅在分叉时占用额外存储，并支持 scale-to-zero。文章给出端到端开发闭环：Git worktree 配合 Claude Code 的 post-checkout hook 为每个智能体自动创建数据库分支，GitHub Actions 再为每个 PR 创建临时分支、运行 Drizzle 迁移、在 Databricks Apps 部署预览应用并生成 schema diff 评论。Lakebase 分支不会合并回父分支，schema 变更通过迁移工具提升到父分支。
匹配字段标题
Harness 收购 Augment Code 的 Cosmos 软件工厂与编码智能体
Harness 周四宣布收购 Augment Code 的 Cosmos 软件工厂、Auggie CLI 和 Code Context Engine 及其团队，金额未披露，Cosmos 将更名为 Harness Cosmos Software Factory Agent。Cosmos 通过 MCP 与 Harness 的交付历史、安全发现和软件交付知识图谱相连，可把需求或 bug 报告推进到 pull request，并在隔离 VM 中编写和测试代码。Harness 表示下游智能体在测试、安全或部署中发现的问题会带着上下文回传给 Cosmos 修复，目前通过工单流程运行，Agent Harness 的身份与策略整合仍在进行中。
匹配字段标题
JetBrains 发布 Mellum2.1：面向编码智能体的 12B MoE 开源模型
JetBrains 发布 Mellum2.1，一个面向编码智能体与快速子智能体的 12B MoE 思考模型，每 token 激活 2.5B 参数，以 Apache 2.0 许可在 Hugging Face 上发布。架构与 Mellum2 相同，升级几乎全部来自真实软件环境中的强化学习，模型可自行探索仓库、编辑文件并检查改动。基准上 SWE-bench Verified 从 2.0 升至 47.0，LiveCodeBench v6 得 82.0，但 SWE-bench Pro、GPQA Diamond 和 AIME 仍落后于 Qwen3.5-9B；GGUF 量化版本从 7.0 GB 起，可在 llama.cpp、Ollama 和 LM Studio 本地运行。
匹配字段标题、摘要
AI DevCon NYC：从编码智能体到软件工厂
AI DevCon New York 将于 11 月 2–4 日在布鲁克林 Industry City 举行，主题是“软件工厂”：不只让单个编码智能体更强，而是构建让智能体开发可重复、可信、可扩展的系统。会议围绕上下文与技能、harness 与工具、编排、验证与评估、反馈与改进等层次展开，并设有企业规模化专场，Zalando 将分享覆盖 2,000 多名工程师的智能体工程实践。
匹配字段标题、摘要