先了解这件事
AI 综述
英国 AI Security Institute 与 Anthropic、Alan Turing Institute 合作,发布了迄今规模最大的数据投毒研究。研究在 600M 到 13B 参数的四档模型上测试同一后门攻击,发现少至 250 篇文档即可成功污染每个受测模型的训练数据,所需数量并不随模型或数据集规模增长,这与以往认为需污染固定比例数据的假设不同。研究团队表示,随着模型能力提升,防御数据投毒对模型安全部署将愈发关键。目前该研究尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
英国 AISI 与 Anthropic 等发布迄今最大规模数据投毒研究事件进展
1 个已确认进展
- 来源：英国 AI Security Institute：Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月11日
英国 AI Security Institute：Blog一手精选
英国 AISI 与 Anthropic 等发布迄今最大规模数据投毒研究
英国 AI Security Institute 与 Anthropic、Alan Turing Institute 合作发布迄今规模最大的数据投毒研究。研究在 600M 到 13B 参数的四档模型上测试同一后门攻击，发现少至 250 篇文档即可成功污染每个受测模型的训练数据，所需数量并不随模型或数据集规模增长，这与以往认为需污染固定比例数据的假设不同。研究团队表示，随着模型能力提升，防御数据投毒对模型安全部署将愈发关键。