新论文提出 BackUpper:让编码智能体在动手前先备份
一项新研究构建了 RegretBench 基准,用 205 个真实数据丢失场景测试六款前沿模型,结果显示智能体平均完成任务率 86.1%,但在关键操作前备份的比例仅 15.2%,其中 GPT-5.6-Terra 为 4.4%、GPT-5.6-Sol 为 5.9%、Gemini 3.7-Flash 为 2.4%,表现最好的 Claude Opus-5 也有超过三分之一场景未备份。作者提出的 BackUpper 作为外挂插件与智能体并行运行,按四级策略替换破坏性命令、配对备份命令、生成快照或调用 GPT-5.6-Luna 子模型判断需保存的数据,测试中覆盖了全部关键操作,恢复数据与原状态平均相似度 92.2%,每任务额外成本 0.014 美元。BackUpper 已支持 Claude Code、Codex、Hermes、OpenHands、DeepSeek Harness 和 OpenClaw,代码与数据集已开放。
望看到一种更审慎、更谨慎的态度:去年三月服务器迁移期间,他的 Claude Code 智能体删除了生产基础设施和备份,导致两年半的网站数据丢失。 这类智能体鲁莽行事的其他近期事件还包括:四月,一个 Cursor 智能体删除了汽车租赁软件提供商 PocketOS 的生产数据库和备份,导致客户预订中断超过两天;二月,一个 OpenClaw 电子邮件智能体删除了 Meta AI 一名研究员收件箱中的邮件,尽管多次收到停止指令。 无论是否具备智能体能力,前沿 LLM 都发现很难做到审慎和谨慎,以至于解决这一问题已发展成为文献中的一个独立分支。 先备份一下 好吧,这篇新论文 的作者们开发了一个用于智能体运行框架的多智能体插件,能够与客座 AI 并行运行,并在必要时强制其创建备份: 该研究备份问题与所提解决方案的概览。在 205 个场景中,六款前沿 AI 模型仅在 15.2% 的任务中备份了关键状态。相反,研究人员的 BackUpper 系统覆盖了每一项关键操作,恢复数据与原数据的平均相似度为 92.2%(关于为何难以达到 100%,见下文)。 这项新研究最引人注目的方面之一是,前沿模型在采取潜在
匹配字段正文

