Rohan Paul (@rohanpaul_ai) · 2026/10/15 22:11:52
谷歌与 CMU 提出 Harmony Harness：多目标进化智能体框架，将安全增益保留率从 0% 提升至 55%
出处作者 / 发布主体：Rohan Paul (@rohanpaul_ai)原标题：New Google and Carnegie Mellon paper finds self-improving agents hold on to security gains far bette...
78AI 研判分
核心综述
谷歌与卡内基梅隆大学联合发布 Harmony Harness 框架，通过多目标进化策略解决自改进智能体在任务迁移中安全能力丢失的问题。该框架将“测试通过率”与“漏洞拦截率”作为独立优化目标，并区分通用修复与特定基准补丁，在 SecRepoBench 未见崩溃类型测试中，其安全增益保留率达 55%，显著优于传统单目标基线的 0%。
报道全文原始报道全文
Rohan Paul (@rohanpaul_ai) · 2026-10-15 14
谷歌与卡内基梅隆大学（CMU）的最新论文发现，当将安全性作为独立目标进行演化时，自我改进的智能体（self-improving agents）能更好地保持安全增益。
智能体框架（Agent harnesses），即围绕模型构建的提示词、工具和循环机制，如今已能根据反馈实现自我重写。大多数此类系统仅追求单一指标（如测试通过率），导致其获得的安全增益在新任务上大多消失殆尽。
Harmony Harness 会演化多个框架版本，每个版本分别侧重于平衡“通过测试”与“阻断漏洞利用”。此外，它将通用修复方案与特定基准测试的修复方案分离，并针对每个任务选择使用哪些组件。
在 SecRepoBench 中面对未见过的崩溃类型时，Harmony Harness 有 66.7% 的修复方案既有效又成功阻断了漏洞利用，而初始框架的这一比例仅为 36.7%。在这些任务上，它保留了 55% 的安全增益，而 DGM 基线模型则完全未能保留任何增益（0%）。
当你允许智能体自我改进时，请将安全性作为独立指标进行追踪，并在留出集（held-out tasks）上进行验证。
