模型越能替人办事,就越需要一张写清楚的「该听谁的、什么时候说不」的说明书。OpenAI把这张说明书又改了一版,而且继续公开。
10月29日,OpenAI发布更新后的Model Spec(模型规范),称这是其对模型应如何表现的公开描述。新版本把既有原则重组到五个底层价值观之下:忠于人类意图(faithfulness to human intent)、伤害最小化、诚实与透明、促进人类自主(agency),以及关怀(care)。官方解释:目标不只是字面执行指令,还要在指令未覆盖的模糊情境中做出符合人类意图与价值的判断,同时保持可监督。
具体改动包括:更新「指挥链」以说明不同来源指令冲突时如何裁决;新增「仔细考虑上下文」等小节,规范对话、记忆与其他证据如何进入意图推断;补充支持人类自主、遵循相关社会规范、控制并沟通副作用等默认。与此同时,退役大部分细粒度文风规定——文风应交由用户与开发者偏好及反馈决定;仍保留如「默认客观视角」等更强默认。规范文本中开始以「GPT」而非「the assistant」指称模型,以反映更广的部署形态。
OpenAI同时表示,正探索新训练方法帮助模型学习这些价值观,并邀请公众阅读更新版规范、提交反馈。公司明确:Model Spec描述的是努力方向,当前模型尚未完全体现。对开发者与企业客户,这意味着产品行为边界更可讨论、可引用;对监管与研究者,则多了一份可对照的公开文本。它不替代法律合规,也不能单独保证线上模型每次都按规范行事。
收尾:OpenAI把「模型该像谁」写成可评论的公共文件——下一步要用真实部署事故率,检验五大价值观是不是只停留在HTML里。