先了解这件事
英国 AI Security Institute 红队公布 Boundary Point Jailbreaking(BPJ)全自动越狱攻击方法。该方法在完全黑盒、只能看到输入是否被拦截的条件下自动生成通用越狱前缀,结合课程学习与边界点搜索。据该机构披露,对 Anthropic 的 Constitutional Classifiers,有害问题平均得分从 0% 提升至 25.5%,50 次尝试最高 39.9%,成本约 330 美元、66 万次查询;对 OpenAI GPT-5 的输入分类器平均达 75.6%,最高 94.3%,成本约 210 美元、80 万次查询。Anthropic 与 OpenAI 已确认这是各自所知首个无需人工种子攻击即成功的全自动黑盒攻击,并已开发针对性缓解措施;AISI 建议防御方采用跨交互的批级流量监控而非单次交互防御。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：英国 AI Security Institute：Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月11日
英国 AI Security Institute：Blog一手精选
英国 AISI 提出 Boundary Point Jailbreaking，称首次自动攻破 Constitutional Classifiers 与 GPT-5 输入分类器
英国 AI Security Institute 红队公开 Boundary Point Jailbreaking（BPJ），一种在完全黑盒、只能看到输入是否被拦截的条件下自动生成通用越狱前缀的方法。该方法结合课程学习与边界点搜索，对 Anthropic 的 Constitutional Classifiers 将有害问题平均得分从 0% 提升至 25.5%（50 次尝试最高 39.9%），成本约 330 美元、66 万次查询；对 OpenAI GPT-5 的输入分类器平均达 75.6%（最高 94.3%），成本约 210 美元、80 万次查询。Anthropic 与 OpenAI 已确认这是各自所知首个无需人工种子攻击即成功的全自动黑盒攻击，并已开发针对性缓解措施；AISI 建议防御方采用跨交互的批级流量监控而非单次交互防御。