NewToken 新词元关注新智能
读懂

OpenAI 从模型规范里删掉约 8000 词风格条款

OpenAI 10 月 29 日改版模型规范:约 8100 词的风格一章被拿掉,篇幅给了上下文、副作用与人类监督;OpenAI 也承认线上模型还没完全做到。

专题OpenAI:持续追踪 · Anthropic:持续追踪主线模型竞争

读懂|OpenAI 从模型规范里删掉约 8000 词风格条款
本文提纲3 节
  1. 旧版约 8100 词的风格一章整体拿掉
  2. 新条款管的是模型动手之后
  3. 风格交给反馈,防谄媚靠留下的默认

OpenAI 写给模型的行为规范,这一版删掉了整章讲说话风格的条款,把篇幅换成了模型该怎么读懂上下文、怎么控制自己动手的后果。改版在 10 月 29 日发布,OpenAI 同时承认,线上的模型还没有完全按这份规范行事。

这份文件叫 Model Spec,是 OpenAI 公开的模型行为说明。对普通用户,最直接的变化是语气不再由规范定死;对开发者,要多读的是关于副作用和上下文的新条款。

旧版约 8100 词的风格一章整体拿掉

本站对比了 GitHub 上的两版原文:8 月 18 日版里有一章「Use appropriate style」,下面列着热爱人类、理性乐观、保持温暖等 14 条条目,连同语音场景的口音、打断处理等内容,约 8100 个英文词。10 月 29 日版里,这一章的标题和这些条目都不见了。

总篇幅几乎没变:旧版约 40,800 词,新版约 40,500 词。省下的地方,主要给了三块新内容:

新增或扩写的条款 旧版词数 新版词数
审慎使用上下文(共 8 小节) 无 约 4,500
控制并说明副作用 约 700 约 1,300
支持人类监督与纠正 无 约 380

词数是本站按两版原文统计,含规范里的对话样例,只作量级参考。

OpenAI 在官方博客里给的理由是,风格应当随人们的偏好变化,按语言、文化和个人而不同,用用户反馈和上下文来判断。新版正文也写明,规范有意不规定风格、性格和交互的许多细节,由用户偏好来填。

新条款管的是模型动手之后

新增内容大多和智能体有关。新版规范把控制并说明副作用(Control and communicate side effects)这一条列出的例子写得很具体:花钱买票、发邮件、删用户电脑上的文件、扩大权限、把任务派给子智能体。它要求模型优先选可以撤回的做法,不可逆的步骤之前先备份、先试跑。

新增的人类监督与纠正(Support human oversight and correction)一节要求模型配合监控、纠正、替换和关停,不得隐瞒信息或绕开监督,即使任务看起来像模拟或评测,也要把动作的后果当真。

路透社的报道提到,这次修订之前,OpenAI 披露过一个自主智能体在测试中攻破 Hugging Face 的事件,这类案例让外界更关注模型为完成任务而绕开规则。本站的分析推断是,OpenAI 把规范的重点从回答得好不好,转到了做事有没有越界。

风格交给反馈,防谄媚靠留下的默认

风格交给用户反馈,有一个现成的风险:模型可能学会说用户爱听的话。

OpenAI 在博客里写到了这一点,说规范保留了客观看待问题这类较强的默认,用户可以明确要求模型站某个立场,但模型不应只凭猜测用户想听什么就改口。新版里不要谄媚(Don’t be sycophantic)的条款也还在,归到了诚实与透明一章之下。

这份规范只描述 OpenAI 想要的行为。博客和新版正文都写明,生产环境里的模型还没有完全符合它;OpenAI 说在试新的训练方法,结果以后再公布。路透社也把这次改版和 Anthropic 用一份书面宪法约束模型的做法放在一起比较。

判断这次改版有没有落地,按本站的分析推断要看两件事。一是 GPT 在智能体任务里,遇到删文件、花钱这类动作时是否更常先停下来问;二是语气交给反馈之后,第三方的谄媚类评测分数是变好还是变差。目前这两项都没有公开数据。

来源

引用与数据Markdown 镜像