jsonscraper
市场

OpenAI 更新 Model Spec:更强大模型行为的五项价值观

10 月 29 日发布的修订版加入了关于上下文、监督和用户自主性的规则,同时精简了详细的风格指导。

编辑政策 报告错误

10 月 29 日,OpenAI 更新了 Model Spec——这份公开文件描述了公司希望如何训练模型,使其表现出预期行为。新版围绕五项价值观整合指导原则,并扩展了模型使用上下文和工具采取行动时的规则。对开发者来说,这首先是一份关于模型目标行为的文件,而不是新 API 或现成产品功能的公告。

文章:OpenAI 更新 Model Spec:更强大模型行为的五项价值观
摘要:OpenAI 围绕五项价值观重构了公开的模型行为规范:忠于人的意图、减少伤害、诚实、支持用户自主性以及关怀。对开发者而言,这份文件是预期模型行为的指南,而不是新产品功能清单。
图片用途:封面——核心主题
版块:
视觉主体:一份印有五项鲜明内容的 AI 行为规范文件
© jsonscraper · AI 生成插图

更新后的 Model Spec列出了忠于人的意图、尽量减少伤害、诚实与透明、支持用户自主性以及关怀。OpenAI 表示,这些原则应帮助模型在具体指令未能涵盖所有情况时,作出更恰当的判断。

上下文与监督成为规则的一部分

实际变化涉及模型应如何考虑互动历史和其他用户信息。OpenAI 举例说,在比较工作机会时,模型可以考虑用户先前表达过的偏好,例如希望工作时间更稳定;模型应说明这一假设,并让用户有机会纠正。文件还更明确地提出了有关人工监督、用户自主性以及模型行为后果的指导。

OpenAI 将这份规范描述为一套边界,以及一组原则上可以覆盖的默认设置:开发者可以在这些范围内设定应用行为,用户也可以引导模型的工作方式。对产品团队而言,这是一份设计系统指令和检查机制的实用指南:应明确哪些上下文可以纳入考虑、模型如何说明自己的假设,以及哪些决定需要人工参与。

减少风格方面的规定

在同一版修订中,OpenAI 表示将删除大部分详细的风格指导。公司解释说,风格应适应人们的偏好、语言和上下文;较为稳定的基础要求则仍会保留,例如对问题作出客观回答。这使规范的重点从一套统一的风格规则,转向价值观以及处理模糊情形的方法。

OpenAI 还表示正在研究能够帮助模型更好地运用这些原则的训练方法,并承诺在未来更新中分享研究结果。不过,公司明确指出,这份规范描述的是目标行为:目前的模型尚未完全达到这一标准。因此,产品团队可以把它作为需求基础,同时针对应用中的任务、上下文和工具,使用自己的测试验证具体场景。

对团队来说,最重要的实际启示是:检查指令和测试时,不仅要看模型是否准确遵循请求,还要看它如何使用上下文、说明自己的假设,以及是否让人保持主导权。此次更新于 10 月 29 日发布;OpenAI 并未在公告中宣布推出新模型或新界面。

人们

尚未列出本文的人员。

继续阅读OpenAI公布三项AI科学成果:研究人员将进行验证
阅读下一篇文章

将阅读内容转化为可用的集成

探索 jsonscraper 社交数据 API、测试请求并构建下一个工作流。

查看 API