←事件详情

热点事件

谷歌发布AI控制路线图

1 篇正式报道1 条事件动态更新于 6月18日 22:00

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

Google DeepMind 发布 AI Control Roadmap,用纵深防御保障内部 AI 智能体安全

事件进展

1 个已确认进展

  1. 谷歌发布AI控制路线图

    来源:Google DeepMind

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

6月18日

  1. Google DeepMind一手

    Google DeepMind 发布 AI Control Roadmap,用纵深防御保障内部 AI 智能体安全

    Google DeepMind 发布 AI Control Roadmap,一套用于构建和管理 Google 内部部署的高级 AI 的框架,在模型对齐之外增加系统级安全层,即便对齐不完美也能提供保障。该框架把不受信任的 AI 智能体视为潜在内部威胁,基于 MITRE ATT&CK 拆解攻击战术与技术,并按模型能力划分检测等级 D1-D4 与预防响应等级 R1-R3。团队已分析一百万个编码智能体任务,并据此为 Gemini Spark 智能体搭建实时监控,数据显示多数被标记事件并非恶意意图,而是智能体误解或过度追求用户目标。

关联事件

  1. 相关事件Anthropic 警告小型 AI 模型或将在 IoT 设备上自我复制
  2. 相关事件谷歌发布Gemini 3.5 Flash Cyber
  3. 相关事件谷歌推出可验证自主研究框架
  4. 相关事件Google推出Fairwind网络防御计划