先了解这件事
AI 综述
OpenAI分享了应对其模型遭知识蒸馏的新研究,介绍对抗训练、分类器、API保护及协同活动调查等防护措施。在自适应黑盒评测中,提取较早请求推理的平均攻击成功率从GPT‐6 Astra的54.0%降至GPT‐6.2 Astra的0.2%,提取当前请求推理的成功率从22.9%降至0.9%。OpenAI还称,今年已发现多起未经授权的蒸馏活动,每周处置数千至数万个账号。目前没有其他有证据的发展。
AI 根据公开报道生成
最新进展 · 正式报道
OpenAI 发布模型知识蒸馏滥用及防御研究事件进展
1 个已确认进展
- 来源:OpenAI News
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月21日
OpenAI一手
OpenAI 发布模型知识蒸馏滥用及防御研究
OpenAI 分享了应对其模型被知识蒸馏的新研究,指出知识蒸馏可能在缺少配套防护的情况下复现强大 AI 能力。研究还探讨了能力如何迁移,以及 OpenAI 如何检测并阻断协同尝试。
11月20日
OpenAI News一手精选
OpenAI 详解对抗性知识蒸馏防护与推理提取风险
OpenAI 公布对抗性知识蒸馏防护方案,通过对抗训练、分类器、API 保护和协同活动调查,限制模型能力与受保护推理被提取。自适应黑盒评测中,提取较早请求推理的平均攻击成功率从 GPT‑6 Astra 的 54.0% 降至 GPT‑6.2 Astra 的 0.2%,提取当前请求推理的成功率从 22.9% 降至 0.9%。OpenAI 还报告今年发现多起未经授权的蒸馏活动,每周处置规模从数千至数万个账号。
AI 热点