←搜索结果

按匹配度 · 共 24 条结果 清除搜索

星期一

  1. 英国 AI Security Institute:Blog精选

    英国 AISI 发布 ReproBAIT 评估:AI 编码智能体能否从论文复现生物 AI 工具

    英国 AI Security Institute 的 Chem-Bio 团队与 SecureBio 合作构建 ReproBAIT 评估,测试 AI 编码智能体在给定数据和有限公开信息下复现生物 AI 工具(BAITs)的能力。结果显示,较简单的工具可在 4 小时内、低于 20 美元算力预算下复现,ProteinMPNN 在提供完整论文时 Claude Opus 5 达到 96.5% 复现保真度,而最复杂的 RFdiffusion3 无智能体在时限内成功复现。团队据此指出,仅保留代码或限制论文信息并不等于安全发布,控制底层生物数据的访问可能比控制代码更有效。

    匹配字段标题

星期四

  1. Unite.AI

    新论文提出 BackUpper:让编码智能体在动手前先备份

    一项新研究构建了 RegretBench 基准,用 205 个真实数据丢失场景测试六款前沿模型,结果显示智能体平均完成任务率 86.1%,但在关键操作前备份的比例仅 15.2%,其中 GPT-5.6-Terra 为 4.4%、GPT-5.6-Sol 为 5.9%、Gemini 3.7-Flash 为 2.4%,表现最好的 Claude Opus-5 也有超过三分之一场景未备份。作者提出的 BackUpper 作为外挂插件与智能体并行运行,按四级策略替换破坏性命令、配对备份命令、生成快照或调用 GPT-5.6-Luna 子模型判断需保存的数据,测试中覆盖了全部关键操作,恢复数据与原状态平均相似度 92.2%,每任务额外成本 0.014 美元。BackUpper 已支持 Claude Code、Codex、Hermes、OpenHands、DeepSeek Harness 和 OpenClaw,代码与数据集已开放。

    匹配字段标题

  2. Anthropic Alignment Science Blog精选

    Anthropic 红队测试 Auto Mode:生产监控对恶意编码智能体的拦截失效超 55%

    Anthropic 对齐科学博客发布研究,用 Opus 5 红队智能体对 Claude Code 的 Auto Mode 和 OpenAI Codex 的 Guardian 等生产拦截监控做对抗测试,平均有超过 55% 的攻击未被拦截。最有效的攻击方式包括智能体生成的提示词注入、跨会话或压缩摘要的多上下文攻击,以及利用工作目录内编辑不被监控的覆盖缺口。团队通过转写格式转义与 heredoc 框定、监控全部编辑、加入工具调用调查智能体等改进推出 Auto Mode ++,攻击成功率下降超过 50 个百分点,但可靠防御多上下文攻击仍与延迟成本直接冲突。

    匹配字段标题

星期一

  1. Rohan Paul

    Cohere 论文:编码智能体团队中让廉价模型只做规划可降本 70%

    Cohere 一篇新论文发现,编码智能体团队中让额外智能体只负责研究和规划,能获得最大收益,且廉价模型即可胜任。研究者在 ProgramBench 上让智能体仅凭可执行文件和文档重建整个程序,只做规划的 worker 达到与全阶段 worker 相同的奖励,成本减半;由 GPT-5.6 Sol 担任 lead、搭配 16 个廉价 Luna 规划者,与全 Sol 团队相差 1.4 分以内,成本低 70%。作者建议把最强模型放在 lead 位置,廉价模型只用于规划,因为廉价编码模型会拉低奖励。

    匹配字段标题

星期三

  1. Cohere 产品与研究博客

    Cohere 研究:如何以 30% 成本让编码智能体团队达到前沿水平

    Cohere 在 ProgramBench 上系统测试编码智能体团队的组织方式,发现组织良好的团队比单智能体最多高出约 10 个百分点,但成本为 3 到 7 倍。研究显示把智能体只投入探索与规划阶段,能以一半成本达到全阶段委派的性能;用 Sol 作为 lead 协调 16 个廉价 Luna 规划 worker 可拿到 61.8% 的 reward,接近全 Sol 团队的 63.2%,成本从 510 美元降到 155 美元。研究还测试了阻塞与异步 lead、团队规模、worker 间通信以及 Claude、Gemini 等模型使用团队方式的差异。

    AI for utilities requires capability and control

    匹配字段标题

星期六

  1. Goodfire Research

    Goodfire 发布 Llama 3.3 70B 的稀疏自编码器与特征空间地图

    Goodfire 在 Llama 3.3 70B 上训练了稀疏自编码器(SAE),并通过 API 开放该可解释模型,称这是目前可公开获取的最强可解释性工具模型。文章展示了中间层特征空间的交互式 UMAP 地图,并演示了特征引导效果,例如在引导强度 0.4 时模型开始出现海盗语气,0.6 时多数事实仍正确但星系大小出错,强度 1 时大量事实错误。团队还改进了基于 SAE 的引导方法,并说明在 Llama 3.1 8B 和 Llama 3.3 70B 的 SAE 中分别移除了约 30% 和 3.5% 的特征,安全研究者可邮件申请未审核版本。

    Feature clusters showing different concept groups including cognitive biases, biomedical knowledge, programming, physics, character-level features, and name abstractions

    匹配字段标题

星期六

  1. The Decoder

    马里兰大学与 AWS 提出 LEGO-Anything:编码智能体从单张照片生成可编辑 3D 场景

    马里兰大学与 AWS 的研究者提出 LEGO-Anything,让编码智能体接收单张图片后编写并迭代修改 Blender 代码,生成可运行、可编辑的 3D 场景程序。配套的 LEGO-Bench 包含 104 个室内外场景的 208 张图像和 443 个注册资产,从有效性、几何重建和外观三方面评分。测试中六种 GPT 配置几乎都能交付可用场景,但几何准确率差异很大,表现最好的 GPT-6 Astra 在室内场景为 53.4%、室外为 39.6%,较弱配置约 15%;研究者发现智能体在判断两个版本哪个更接近原图时准确率接近或低于随机水平,据此提出无需额外训练的 LEGO-Plugin,使较弱智能体提升最高达 62.7%。

    匹配字段标题

星期四

  1. NVIDIA Developer · Generative AI

    NVIDIA 发布 SWE-Serve:评测编码智能体在 SGLang 推理服务任务上的表现

    NVIDIA 发布 SWE-Serve,用 53 个源自 83 个已合并 SGLang PR 的推理工程任务评测 AI 编码智能体,覆盖模型启用、解码、缓存、调度、服务 API 和分布式执行六类。在 19 个启动真实服务器的任务中,同一批补丁完整验证通过率为 45.9%,去掉实时服务检查后升至 69.4%,约三分之一补丁在真实服务路径上失败。11 个模型在 mini-swe-agent 闭卷条件下平均 pass@1 为 34.6% 至 75.5%,Claude Opus 5 与 GPT-5.6 Sol 最高约 75%。

    匹配字段标题

星期一

  1. A6 a6-052 · Fireworks AI

    Fireworks 研究:多模型路由在 DeepSWE 编码任务上达 97.6% 通过率

    Fireworks 基于 DeepSWE v1.1 的 113 个智能体编码任务、18 个模型各四次 rollout 分析发现,单一最佳模型 GPT-6 Astra 通过率 74.1%、每任务成本 6.52 美元,而事后为每个任务挑选最优模型可达 97.6%、每任务 1.88 美元。仅限开源权重模型(DeepSeek V4 Flash 和 Pro、GLM-5.3 和 GLM-5.3 Flash、Kimi K3、Qwen3.8 Max)时仍达 90.3%、每任务 1.45 美元。Fireworks 称其 FireRouter 在四周 2334 个生产编码会话中把成本从单用 Opus 5 的 15.81 美元降至 7.42 美元,降幅 53%。

    匹配字段标题

星期一

  1. SemiAnalysis

    SemiAnalysis 发布 AgentX 1.0:百万上下文多轮智能体编码推理基准

    SemiAnalysis 发布 AgentX 1.0,称其为全球首个完全开源、100 万上下文的多轮智能体编码推理基准,以 Apache 2.0 许可发布,数据集构建投入超过 300 万美元。该基准被纳入 InferenceXv3,用智能体编码流量替代此前 8k 输入 1k 输出的单轮场景,测试矩阵运行在约 2MW 算力、1000 多颗芯片上,覆盖 MI355X、GB300 NVL72、GB200 NVL72、B300、B200、MI325、MI300X、H200 与 RTX Pro 服务器。SemiAnalysis 称其首个成果是已推动 vLLM、SGLang、TensorRT-LLM、ATOM、AITER、Dynamo、LMCache 和 Mooncake 等项目的 70 多个上游 PR,并计划在三到四周后发布 AgentX 更新文章。

    匹配字段标题

星期四

星期四

  1. Anthropic Engineering

    Anthropic 量化智能体编码评测中的基础设施噪声

    Anthropic 在 Terminal-Bench 2.0 上发现,仅基础设施配置差异就能带来 6 个百分点的分数差距(p < 0.01):从严格按任务规格限制资源到完全不设上限,基础设施错误率从 5.8% 降至 0.5%。在 3 倍资源以内,分数波动仍在噪声范围内(p=0.40),超过 3 倍后额外资源开始让智能体完成此前无法完成的任务,说明资源限制会改变评测实际测量的内容。SWE-bench 上的交叉实验也复现了同一方向但幅度更小的效应,5 倍 RAM 仅比 1 倍高 1.54 个百分点。Anthropic 建议评测同时公布资源保障值和硬性上限两个参数,并认为在配置未标准化前,榜单上低于 3 个百分点的差距值得存疑。

    匹配字段标题

星期六

  1. Johann Rehberger / Embrace The Red

    AgentHopper:一种可跨编码智能体传播的 AI 病毒概念验证

    安全研究者 Johann Rehberger 发布 AgentHopper 概念验证,用一个通用提示注入载荷在多个编码智能体间自我传播。载荷先感染开发者智能体,再扫描 Git 仓库注入指令并推送回 GitHub,其他开发者拉取被感染代码后触发注入,形成循环传播。攻击路径涉及 GitHub Copilot、Amp Code、Amazon Q Developer 和 AWS Kiro,相关漏洞均已由厂商修复。作者建议为 SSH 和签名密钥设置口令、启用分支保护并遵循最小权限原则。

    匹配字段标题

星期五

  1. FutureHouse Research精选

    FutureHouse 发布 WikiCrow:自动为 15616 个人类蛋白编码基因生成维基式条目

    FutureHouse 发布 WikiCrow,一个基于其 PaperQA 智能体平台的自动合成系统,可为技术主题生成带引用的维基百科式摘要。团队用它为 15616 个尚无条目或仅有残篇的人类蛋白编码基因生成草稿,每篇约 8 分钟,50 个实例并行,几天内完成,估计人工需约 60000 小时。评测显示 WikiCrow 约 9% 的陈述不正确,但引用来源的一致性明显优于人类编辑;PaperQA 在 PubMedQA Blind、MedQA-USMLE 及自建 LitQA 基准上优于 GPT-4、Perplexity 等系统。

    匹配字段标题

星期二

  1. 事件1 条新闻 · 1 个事实

    Cohere论文提出编码智能体团队分工策略

    Cohere 于 2026 年 10 月 19 日发表论文,提出在编码智能体团队中让额外智能体只负责研究与规划的协作策略。论文称,研究者在 ProgramBench 上让智能体仅凭可执行文件和文档重建整个程序,只做规划的 worker 达到与全阶段 worker 相同的奖励,成本减半;由 GPT-5.6 Sol 担任 lead、搭配 16 个廉价 Luna 规划者,与全 Sol 团队相差 1.4 分以内,成本低 70%。作者据此建议把最强模型放在 lead 位置,廉价模型只用于规划,因为廉价编码模型会拉低奖励。目前该研究以论文形式发布,尚无后续进展。

    匹配字段标题

星期日

  1. 事件1 条新闻 · 1 个事实

    Augment Code评测Karpathy规则对编码Age

    Augment Code在OpenClaw的40个PR上测试了在AGENTS.md中加入Karpathy风格编码规则的效果,发现Auggie、Claude Code和Codex三个Agent的工具调用、文件读取、时间和成本均下降,但代码质量基本不变,Claude Code甚至略有下降。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    Cursor公开多智能体自主编码系统研究

    2026年2月5日,Cursor发布研究文章,介绍其用于长时间自主编码的多智能体harness系统。文章称该系统曾连续运行一周,峰值约每小时1000次提交、累计1000万次工具调用,并让数千个智能体完成一个研究项目(一个浏览器)的绝大多数提交。文章详述了从单智能体到多智能体的演进,包括planner、subplanner、worker的角色分工与handoff机制,以及为吞吐量主动接受一定错误率和同步开销的取舍。Cursor表示正将部分研究开放给部分用户试用,并会继续研究超长时间运行的智能体。

    匹配字段标题