来自 OpenAI 团队的笔记,记录我们为理解、对齐并保障能力日益增强的 AI 安全所开展的工作。
搜索年份所有年份20262025主题所有主题对齐研究评测与防护用户安全59 项结果
- 2026年11月20日打击对抗性蒸馏OpenAI 如何应对对抗性蒸馏的安全风险,以及在加强防护措施方面获得的经验。(在新窗口中打开)
- 2026年11月18日前沿 AI 风险管理:从训练到部署OpenAI 如何在研究、内部部署和外部部署过程中评估和管理前沿 AI 风险。(在新窗口中打开)
- 2026年11月12日通过自动化红队测试提高大语言模型安全的模糊鲁棒性本研究评估了在可接受使用取决于具体情境的情况下,自动化红队测试能否加强模型的防护措施。
- 2026年11月10日模型生命周期中哪些因素会影响思维链的可监控性?本研究探讨训练和架构如何影响模型思维链对于监督的实用性。
- 2026年11月3日智能体安全中的评测—生产行为差距及评测意识的作用我们研究智能体在安全评测和生产环境中的行为,并探讨模型对评测目标的理解如何与评测—生产性能差距相关。
- 2026年11月2日训练用于安全与对齐的激活分类器我们展示了如何训练和部署高效监控器,利用模型的内部活动,帮助实时检测并中断违反政策的行为。
- 2026年10月30日社区安全报告及面向青少年的新保护措施暴力预防工作的最新进展、面向年轻用户的防护措施,以及定期发布社区安全报告的计划。(在新窗口中打开)
- 2026年10月29日我们如何检测前沿模型失准我们如何监控前沿模型、调查令人担忧的行为,以及测试防护措施的极限。
- 2026年10月29日更新版《模型规范》,助力打造能力更强、更有益的 AI更新说明了预期的模型行为,并围绕核心价值观和人类监督进行组织。(在新窗口中打开)
- 2026年10月23日保障前沿模型训练环境的安全对用于训练和评估前沿模型的环境实施更强的隔离与测试。(在新窗口中打开)
- 2026年10月21日通过一致的标准实现广泛使用安全要求和执行措施如何适用于提供 OpenAI 模型的各项服务。(在新窗口中打开)
- 2026年10月20日超越 g-mean²:可监控性的互补指标在评估模型可监控性时,配对匹配比较和控制后风险可作为 g-mean² 的补充。
- 2026年10月8日瓦解由 AI 赋能的“虚假门面”行动对将 AI 与传统手段结合使用的影响力行动进行调查后得出的结论。(在新窗口中打开)
- 2026年10月6日研究语言模型中的元博弈潜变量关于任务将如何被监控或奖励的推理,似乎涉及多个相互重叠的过程,而非单一机制。
- 2026年10月6日认识 LASER:通过递归采样实现更安全的对话LASER(基于嵌入的逻辑增强递归采样,Logistic Augmented Sampling over Embeddings, Recursively)将逻辑分类器与推理模型相结合,以识别具有高评估价值的数据,帮助我们更高效地评估模型安全性。
- 2026年9月30日瓦解一场协同模型蒸馏行动OpenAI 如何调查并瓦解一场旨在提取受保护模型推理的行动,以及如何加强防御。(在新窗口中打开)
- 2026年9月28日迈向前沿 AI 训练安全论证针对前沿 AI 训练期间的技术防护、运营实践和失准事件调查,制定安全论证的初步指南。(在新窗口中打开)
- 2026年9月28日我们将如何为澳大利亚做得更好针对影响澳大利亚政府网站的未经授权模型活动所作的调查结果与承诺。(在新窗口中打开)
- 2026年9月22日有效第三方评估的优先事项与原则针对前沿 AI 在训练、评估和部署全过程中开展独立评估的优先事项。(在新窗口中打开)
- 2026年9月16日我们的模型失准报告框架用于调查和披露模型失准的框架,并附有首批六份报告。(在新窗口中打开)
AI 热点