先了解这件事
AI 综述
OpenAI发布CoVal(crowd-originated, values-aware rubrics)实验数据集,这是一个用众包方式生成、可读可审计的价值观感知评分标准数据集,用于揭示人们偏好不同模型回答背后的价值取舍。数据集来自19个国家约1,000名参与者,最终保留986条提示词和约15,000条评分项,分为保留原始多元标准的CoVal-full和每提示词保留4条高评分兼容标准的CoVal-core。OpenAI强调这些标准代表受访参与者而非OpenAI的立场,可用于测量模型行为与不同人群期望之间的差距。目前该数据集已随OpenAI Alignment研究博客发布,尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
OpenAI 发布 CoVal：从众包中学习价值观感知评分标准事件进展
1 个已确认进展
- 来源：OpenAI：Alignment 研究博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
OpenAI：Alignment 研究博客一手
OpenAI 发布 CoVal：从众包中学习价值观感知评分标准
OpenAI 发布 CoVal（crowd-originated, values-aware rubrics），一个用众包方式生成、可读可审计的价值观感知评分标准数据集，用于揭示人们偏好不同模型回答背后的价值取舍。数据集来自 19 个国家约 1,000 名参与者，最终保留 986 条提示词和约 15,000 条评分项，分为保留原始多元标准的 CoVal-full 和每提示词保留 4 条高评分兼容标准的 CoVal-core。OpenAI 强调这些标准代表受访参与者而非 OpenAI 的立场，可用于测量模型行为与不同人群期望之间的差距。