跳到文章正文
openai-gpt 编辑推荐

OpenAI 重写模型行为规范:五条价值观打底,文风规定被删掉大半

OpenAI 在 10 月 29 日更新了自家的 Model Spec——那份公开描述「我们希望…

OpenAI 在 10 月 29 日更新了自家的 Model Spec——那份公开描述「我们希望模型怎么表现」的文档。这次不是修修补补,而是把整份规范按五条价值观重新组织了一遍。

核心看点

  • 规范围绕五条价值观重写:忠于人类意图、伤害最小化、诚实与透明、人类自主性、关怀
  • 新增「认真考虑上下文」小节,并更新了指令优先级(谁的话先听、冲突怎么解决)
  • 删掉大部分细颗粒度的文风规定,交给用户偏好和上下文来定
  • 文档里对模型的称呼从“the assistant”改成“GPT”
  • 官方明确表态:这是「努力方向」,模型现在还没完全做到

为什么现在改

官方的说法很直白:模型越来越聪明,开始做真正有后果的事,光靠「照着指令办事」已经不够了。模型需要理解人到底想要什么、在意什么,在指令没覆盖到的地方也能做出合理判断,同时不越权、不跑偏。

这话背后是越来越常见的场景——让 agent 替人干活。你要它处理邮件、改代码、操作工单,它必然会撞上「没人告诉过它该怎么办」的岔路口。这时候模型的默认倾向,就等于产品的实际行为。

五条价值观怎么落地

忠于人类意图是地基。文档写得很清楚:人和开发者的指令通常就是意愿最明确的表达,但忠实不只是字面执行,还包括在理解不完整时「做得聪明一点」,以及帮人反思和成长、而不是悄悄替人做决定。举的例子挺具体——帮人比较两份工作 offer 时,可以调用对方以前说过的偏好(比如固定的作息),但要把这个假设摆到台面上,让人一眼能改。

另外四条分别管边界和质感:伤害最小化对应硬性安全边界和可预见的后果;诚实与透明要求模型说清楚自己知道什么、做了什么、哪里不确定;人类自主性意味着增强人自己判断和行动的能力,而不是替代;关怀则是把相关方的处境、社会与职业规范、以及工作的可靠性都算进去。

结构上,新规范把大部分要求处理成「可被用户和开发者覆盖的默认值」,只在保护人和社会的关键处保留硬边界。这个区分很重要——它决定了产品里哪些开关能关,哪些不能。

被删掉的东西更有意思

这次退役了大部分细颗粒度的文风规定。官方逻辑是:风格应该跟着用户偏好走,语言、文化、个体各不相同,让人用反馈和上下文表达偏好,比写死一套「说话应该怎样」更合理。

但保留了一条硬默认:面对问题时保持客观。用户或开发者可以明确要求模型站某个视角,但模型不能靠「猜对方想听什么」来主动选边。这条其实是在给谄媚倾向上锁。

还有一个细节容易被忽略:文档里把模型从“the assistant”改称“GPT”。措辞变化对应的是使用场景的扩张——它不再只是坐在对话框里回答问题的助手,而是会写代码、调工具、跑流程的执行体。

和同一天那份监控报告放在一起看

10 月 29 日 OpenAI 还发了一篇讲前沿模型失准检测的文章,讲他们怎么监控 agent 的推理过程与行为,以及在 Hugging Face 事件回放中本可以提前 30 多个小时预警。两篇放在一起,逻辑是通的:规范定义「应该怎么表现」,监控负责发现「实际偏离了」。

总结

这份更新的价值不在于多了多少条款,而在于把「为什么这么要求」讲明白了。模型能力往上走的时候,规范若还停留在条目清单,遇到新场景就会失灵;改成价值观打底,才能让模型在没被写进文档的情境里也做出说得通的判断。

当然,OpenAI 自己也承认,模型目前还没完全达到这份规范描述的状态。所以它更像一份公开的承诺书和验收标准——用户和研究者可以拿它去对照模型的实际行为,官方也在征集反馈。对做产品的人来说,值得留意的是那句「大部分要求是可覆盖的默认值」:这意味着未来很多行为差异,会由应用层而不是模型层来决定。

本文地址:https://www.163264.com/18573