先了解这件事
AI 综述
2026年7月13日,MIT、波士顿大学与Thorn的研究人员提出一种审计方法,用于识别经专门微调、可能生成儿童性虐待材料的模型。该方法无需向模型输入提示词或生成图像,而是通过高斯探测分析LoRA适配器对模型内部计算的修改。在针对三类模型变体的测试中,该方法以100%的准确率识别出相关有害模型。研究人员表示,该方案具备可扩展性且实施成本相对较低,可帮助模型托管平台标记并阻止不安全模型上传。
AI 根据公开报道生成
最新进展 · 正式报道
MIT 团队提出无需生成图像即可识别有害 LoRA 的审计方法事件进展
1 个已确认进展
- 来源：MIT News · Artificial Intelligence
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
7月13日
MIT News · Artificial Intelligence精选
MIT 团队提出无需生成图像即可识别有害 LoRA 的审计方法
MIT、波士顿大学与 Thorn 的研究人员开发了无需提示模型或生成图像的审计方法，可识别被专门微调以生成儿童性虐待材料的模型。该方法利用 Gaussian probing 分析 LoRA adaptor 对模型内部计算的修改，在三类模型的变体测试中，以 100 percent 准确率识别出相关有害模型。研究人员称，该方法具备可扩展性且实施成本相对较低，可供模型托管平台标记并阻止不安全模型上传。