←事件详情

热点事件

OpenAI 介绍 LASER 递归采样安全评估方法

1 篇正式报道1 条事件动态更新于 10月13日 20:30

先了解这件事

AI 综述

2026年10月,OpenAI 发布 LASER(Logistic Augmented Sampling over Embeddings, Recursively),将其描述为一种用于安全评估的递归采样方法。该方法把轻量逻辑回归分类器与推理模型结合,循环筛选位于策略决策边界的高价值对话,用于安全评估。据 OpenAI 介绍,该流程可在数小时内完成评估数据筛选,找到同等数量违规样本所需的 grader 算力比随机采样少约 10,000 倍。OpenAI 同时说明,该流程仅使用合成与去标识化对话,不接触原始用户数据。目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

OpenAI 推出 LASER:用递归采样提升安全评估效率

事件进展

1 个已确认进展

  1. OpenAI 介绍 LASER 递归采样安全评估方法

    来源:OpenAI:Alignment 研究博客

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月13日

  1. OpenAI:Alignment 研究博客一手

    OpenAI 推出 LASER:用递归采样提升安全评估效率

    OpenAI 发布 LASER(Logistic Augmented Sampling over Embeddings, Recursively),将轻量逻辑回归分类器与推理模型结合,循环筛选位于策略决策边界的高价值对话用于安全评估。该流程可在数小时内完成评估数据筛选,找到同等数量违规样本所需的 grader 算力比随机采样少约 10,000 倍,且仅使用合成与去标识化对话,不接触原始用户数据。

关联事件

  1. 相关事件OpenAI 提出 Contrastive SDF 测量奖励寻求
  2. 相关事件OpenAI 发现有益特质强化学习可带来广泛对齐泛化
  3. 相关事件OpenAI 分享 Deployment Simulation 工作
  4. 相关事件OpenAI 披露部分模型 RL 训练中意外对 CoT 打分