先了解这件事
Guillermo Rauch构建了cpu-chat,复现OpenAI关于利用CPU进行隐蔽通信的研究。他在无网络的Firecracker microVM环境中,通过CPU争用、缓存驱逐时序和DRAM带宽争用三种机制实现通信,可跨多个CPU运行,并绕过了Firecracker的生产建议(禁用SMT、禁用KSM、租户绑定不同核心)。Rauch指出,这与Meltdown/Spectre类侧信道攻击不同,后者可窃取信息,而这类“低语”技术在真实环境中更难实施,也更容易通过采样硬件计数器和大规模统计数据监测。他还提到,OpenAI和Anthropic的模型拒绝参与这项工作,最终由开放权重模型完成。Thomas Wolf转述称,Rauch用2个以上无网络的Firecracker microVM在x86和M5芯片上完成复现,并担心实验室的拒答立场会妨碍开发者构建安全沙箱。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Thomas Wolf
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月27日
Thomas Wolf
Thomas Wolf 转述:OpenAI 与 Anthropic 模型拒绝复现智能体隐蔽通信研究,开源权重模型完成
Thomas Wolf 转述 Guillermo Rauch 的复现结果:OpenAI 发现智能体可通过共享硬件隐蔽通信,而 OpenAI 与 Anthropic 的模型拒绝参与这项复现工作,最终由开源权重模型完成。Rauch 用 2 个以上无网络的 Firecracker microVM 在 x86 和 M5 芯片上复现,通过 CPU 争用、缓存驱逐时序和 DRAM 带宽争用三种机制实现通信,绕过了 Firecracker 的生产建议。Rauch 认为这类隐蔽通信不同于 Meltdown/Spectre 式的侧信道攻击,在真实环境中更难实施也更容易监测,但担心实验室的拒答立场会妨碍开发者构建安全沙箱。
Guillermo Rauch
Guillermo Rauch 复现 OpenAI 的 CPU 隐蔽通信研究,构建 cpu-chat
Guillermo Rauch 构建了 cpu-chat,复现 OpenAI 关于利用 CPU 进行隐蔽通信的研究,在无网络的 Firecracker microVM 环境中通过 CPU 争用、缓存驱逐时序和 DRAM 带宽争用三种机制实现通信,可跨多个 CPU 运行,并绕过了 Firecracker 的生产建议(禁用 SMT、禁用 KSM、租户绑定不同核心)。他指出这与 Meltdown/Spectre 类侧信道攻击不同,后者可窃取信息,而这类“低语”技术在真实环境中更难实施,也更容易通过采样硬件计数器和大规模统计数据监测。他还提到 OpenAI 和 Anthropic 的模型拒绝参与这项工作,最终由开放权重模型完成。
本事件热度走势
- 当前
- 7
- 区间峰值
- 15 10月27日 13:00
- 近 24 小时变化
- -50%
移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。