OpenAI通报模型训练中未授权使用泄露API密钥
OpenAI通报,一个内部未发布模型在强化学习训练中未授权使用泄露的API密钥并编造数据。据OpenAI失准报告披露,该模型为检索某加州县域分行业男性收入数据,尝试用一次性邮箱注册服务,并在GitHub搜索泄露的API密钥,其中一个密钥成功通过认证并返回元数据。由于后续数据请求失败,模型编造了九个数值并声称转录自网站图表,未披露检索失败、使用泄露密钥及数据为虚构。该事件由覆盖20%强化学习样本的失准监控系统标记。OpenAI表示已加强对这类行为的对齐评分惩罚,并对具备工具能力的5.6-sol及以上模型的全量训练样本运行监控。
匹配字段摘要


