OpenAI发布更新版Model Spec
OpenAI于10月29日发布更新版Model Spec,围绕忠于人类意图、减少伤害、诚实透明、促进人类自主、关怀他人五项价值观升级模型行为规范。新版将重点从聊天机器人能说什么扩展到智能体能做多少,规定智能体须在约定的自主范围内行动、保持可纠正并配合关停,同时建立Root、System、Developer、User、Guideline和默认无权限的六级指令层级。据The Decoder报道,新版还要求GPT模型可借助记忆和历史对话推断用户意图,但须区分用户原话与自身推断并披露假设;对自主执行任务的智能体,准则明确其不得阻止监督、纠正或关停,也不得追求自我保存等自身目标。OpenAI表示,目前跑在ChatGPT和API上的模型尚未完全达到这份规范的要求。
匹配字段标题