先了解这件事
AI 综述
Google与卡内基梅隆大学的一篇新论文发现,当安全作为独立目标演化时,自我改进的智能体更能保持安全收益。该论文提出的Harmony Harness在SecRepoBench未见崩溃类型上,66.7%的修复既有效又阻止了漏洞利用,起始harness为36.7%;它保留了55%的安全收益,而DGM基线为0%。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Google 与 CMU 论文：Harmony Harness 将安全作为独立目标进化事件进展
1 个已确认进展
- 来源：Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月15日
Rohan Paul
Google 与 CMU 论文：Harmony Harness 将安全作为独立目标进化
Google 与卡内基梅隆大学的新论文发现，把安全作为独立目标进化时，自我改进的智能体能更好地保持安全收益。其 Harmony Harness 在 SecRepoBench 未见崩溃类型上，66.7% 的修复既有效又阻止了漏洞利用，起始 harness 为 36.7%；它保留了 55% 的安全收益，而 DGM 基线为 0%。