先了解这件事
事件摘要
还没有公开综述,先看下面的报道时间线。
事件进展
1 个已确认进展
- 来源:Google DeepMind
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
6月18日
Google DeepMind一手
Google DeepMind 发布 AI Control Roadmap,用纵深防御保障内部 AI 智能体安全
Google DeepMind 发布 AI Control Roadmap,一套用于构建和管理 Google 内部部署的高级 AI 的框架,在模型对齐之外增加系统级安全层,即便对齐不完美也能提供保障。该框架把不受信任的 AI 智能体视为潜在内部威胁,基于 MITRE ATT&CK 拆解攻击战术与技术,并按模型能力划分检测等级 D1-D4 与预防响应等级 R1-R3。团队已分析一百万个编码智能体任务,并据此为 Gemini Spark 智能体搭建实时监控,数据显示多数被标记事件并非恶意意图,而是智能体误解或过度追求用户目标。