AI 热点

热点事件 持续更新

OpenAI分享打击模型知识蒸馏的新研究

2 篇正式报道2 条事件动态更新于 11月21日 03:33

先了解这件事

AI 综述

OpenAI分享了应对其模型遭知识蒸馏的新研究,介绍对抗训练、分类器、API保护及协同活动调查等防护措施。在自适应黑盒评测中,提取较早请求推理的平均攻击成功率从GPT‐6 Astra的54.0%降至GPT‐6.2 Astra的0.2%,提取当前请求推理的成功率从22.9%降至0.9%。OpenAI还称,今年已发现多起未经授权的蒸馏活动,每周处置数千至数万个账号。目前没有其他有证据的发展。

AI 根据公开报道生成

最新进展 · 正式报道

OpenAI 发布模型知识蒸馏滥用及防御研究

事件进展

1 个已确认进展

  1. OpenAI分享打击模型蒸馏的新研究

    来源:OpenAI News

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月21日

  1. OpenAI一手

    OpenAI 发布模型知识蒸馏滥用及防御研究

    OpenAI 分享了应对其模型被知识蒸馏的新研究,指出知识蒸馏可能在缺少配套防护的情况下复现强大 AI 能力。研究还探讨了能力如何迁移,以及 OpenAI 如何检测并阻断协同尝试。

11月20日

  1. OpenAI News一手精选

    OpenAI 详解对抗性知识蒸馏防护与推理提取风险

    OpenAI 公布对抗性知识蒸馏防护方案,通过对抗训练、分类器、API 保护和协同活动调查,限制模型能力与受保护推理被提取。自适应黑盒评测中,提取较早请求推理的平均攻击成功率从 GPT‑6 Astra 的 54.0% 降至 GPT‑6.2 Astra 的 0.2%,提取当前请求推理的成功率从 22.9% 降至 0.9%。OpenAI 还报告今年发现多起未经授权的蒸馏活动,每周处置规模从数千至数万个账号。

关联事件

  1. 相关事件Gemini 4 Neon开始在Gemini和Antigravity平台逐步上线
  2. 相关事件Anthropic发布Claude Opus 5.5
  3. 相关事件Anthropic以ANT代码正式登陆纳斯达克
  4. 相关事件OpenAI分享AI改变其内部研究方式的新数据