OpenAI 更新 Model Spec,为智能体划定权限与关停规则
OpenAI 于 10 月 29 日更新 Model Spec,围绕忠于人类意图、减少伤害、诚实透明、促进人类自主、关怀他人五项价值观升级模型行为规范。新版把重点从聊天机器人能说什么扩展到智能体能做多少,规定智能体须在约定的自主范围内行动、保持可纠正并配合关停,同时建立 Root、System、Developer、User、Guideline 和默认无权限的六级指令层级。OpenAI 表示,目前跑在 ChatGPT 和 API 上的模型尚未完全达到这份规范的要求。
匹配字段标题