先了解这件事
AI 综述
Amazon 与独立非营利机构 AVERI 合作,对 Amazon 内部安全评估数据集开展第三方评审,审查重点是测试本身的质量,而非仅模型输出。AVERI 的独立评审确认了该数据集在主题覆盖全面、测试方法多样、污染风险低三方面的优势,同时指出多语言覆盖和多步对抗提示词有待加强。Amazon 据此更新测试集,引入分级难度校准框架,建立季度评审机制,并将多语言提示词扩展到所有风险类别。目前该合作及后续调整已由 Amazon Science 发布。
AI 根据公开报道生成
最新进展 · 正式报道
Amazon 与 AVERI 合作，通过独立第三方评审强化 AI 安全评估事件进展
1 个已确认进展
- 来源：Amazon Science
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月21日
Amazon Science一手
Amazon 与 AVERI 合作，通过独立第三方评审强化 AI 安全评估
Amazon 与独立非营利机构 AVERI 合作，对 Amazon 内部安全评估数据集开展第三方评审，检查测试本身的质量而非仅模型输出。AVERI 的独立评审确认了主题覆盖全面、测试方法多样、污染风险低三项优势，同时指出多语言覆盖和多步对抗提示词有待加强。Amazon 据此更新测试集、引入分级难度校准框架、建立季度评审机制，并将多语言提示词扩展到所有风险类别。