OpenAI 重构 AI 模型指南：聚焦五大价值观，忠于人类意图是核心
OpenAI重构AI模型指南：聚焦五大价值观 忠于人类意图是核心
AI 导读
OpenAI 更新《模型规范》，将忠于人类意图作为框架基础，要求模型理解用户、开发者和 OpenAI 的意图与价值取向，而非字面执行指令。修订后的框架还要求模型尽量减少伤害、对所知与所不知保持透明，并帮助用户自主决策。OpenAI 表示当前模型尚未完全体现这些要求，正在探索新的训练方法让模型将原则内化。
正文
OpenAI
OpenAI表示，忠于人类意图是这套框架的基础，要求模型理解用户、开发者和OpenAI的意图与价值取向，而不是简单地字面执行指令。
OpenAI称，此次更新是其AI对齐工作的一部分，旨在帮助模型在陌生情境中应用人类价值观，同时始终接受人类的监督。修订后的框架称，模型应尽量减少伤害，对其所知和所不知保持透明，并帮助用户做出自己的决定、追求自己的目标。
该公司表示，目前的模型尚未完全体现更新后的《模型规范》要求，正在探索新的训练方法，帮助模型将这些原则内化于自身行为之中。