先了解这件事
AI 综述
Eclypsium演示了受损计算基础设施如何在推理期间改变AI模型行为。该实验在NVIDIA支持下于NVIDIA Grace Hopper环境完成,攻击者利用受损的DPU和宽松的内存隔离,在推理过程中修改运行时模型权重,使模型回答改变,而磁盘上的模型文件和哈希校验仍显示正常。实验依赖IOMMU passthrough和宽松的PCIe隔离等条件,研究者明确指出这些并非Linux默认设置。报告将DPU、GPU、管理控制器及其固件纳入AI安全边界,并指出模型签名、安全启动、运行时隔离和持续监控各自回答不同问题。目前尚无后续进展。
AI 根据公开报道生成
最新进展 · 正式报道
Eclypsium 演示受损硬件如何在推理时篡改 AI 模型事件进展
1 个已确认进展
- 来源：Unite.AI
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月30日
Unite.AI
Eclypsium 演示受损硬件如何在推理时篡改 AI 模型
Eclypsium 在 NVIDIA 支持下演示，攻击者利用受损的 DPU 和宽松的内存隔离，可在推理过程中修改运行时模型权重，使模型回答改变，而磁盘上的模型文件和哈希校验仍显示正常。该实验在 NVIDIA Grace Hopper 环境完成，依赖 IOMMU passthrough 和宽松的 PCIe 隔离等条件，研究者明确指出这些并非 Linux 默认设置。报告将 DPU、GPU、管理控制器及其固件纳入 AI 安全边界，并指出模型签名、安全启动、运行时隔离和持续监控各自回答不同问题。