当应用需要从几个后续步骤中选出一个时,完整的生成式回答可能会增加不必要的延迟和开销。2026 年 10 月 22 日,OpenAI 宣布 Decisions API 正式开放使用。这是一种面向此类受限决策的接口,开发者可以预先设定问题和允许的回答选项。

据 OpenAI 介绍,该 API 基于 GPT‑6 Luna 构建,可接收文本、图像和结构化数据。OpenAI 称,在目标任务上,它的速度最高可比通过 Responses API 使用 GPT‑6 Luna 快 10 倍。这一比较针对指定的处理路径;在自己的系统中,仍应使用真实输入进行验证,包括检查分类错误和需要人工复核的请求比例。详情见Decisions API 公告和开发者指南。
三种回答形式,取代自由文本
开发者描述决策及其上下文,API 则返回三种结果之一。Predicate 用于评估某个条件成立的概率,例如图像中是否存在明显损坏。Choice 从预设选项中选出一个,例如继续操作、重试或请求澄清。Score 则按照开发者设定的有序等级对输入进行评分。
这种格式适用于请求分类、文档路由、选择智能体的下一步行动,以及初步风险评估。它最突出的实用特点是由应用设定回答范围:结果可以直接用于代码中的分支处理,而置信度低的情况则可转交工作人员。OpenAI 在公告中举例介绍了 Box:该公司表示,在一项使用 30 份保险凭证进行的内部评估中,Decisions API 在准确率相同的情况下,选择路由的速度约为 Responses API 的五倍。这是 Box 特定测试的结果,并不保证适用于其他数据集。
部署前应检查什么
OpenAI 给出的价格是每百万输入 token 0.10 美元、每百万缓存输入 token 0.01 美元;输出 token 不收费。单个请求最多可包含 400 个问题。OpenAI 还列出重复使用上下文的缓存、在美国和欧盟处理数据,以及面向符合条件的客户提供零数据保留(Zero Data Retention)等功能。
要了解实际经济效益,可以选取一个频繁出现的决策分支,用保存的样例将 API 与现有实现进行比较。记录各类别的准确率、第 50 和第 95 百分位延迟、无法确定的情况占比,以及包含上下文在内的完整请求成本。对于后果重大的任务——例如自动执行命令或拒绝操作——应设置置信度阈值,并为边界结果提供人工处理路径。
还应单独检查指令质量和允许选项列表:如果回答选项中没有重要情形,模型就只能选一个不合适的结果。对于语音应用,OpenAI 宣布 Decisions API 将与 GPT‑Live 原生集成,并以实时对话中选择下一步行动为例。对于此类场景,建议测量从收到用户信号到界面作出响应的实际延迟。
这项新功能可能适用于哪些场景
Decisions API 面向大型流程中反复出现的小型决策。因此,它可用于申请初步分类、将任务分配到不同队列、评估收到的文档,以及选择智能体的下一步行动。实际的部署标准很简单:在准确率可接受、且能够妥善处理存疑情况的前提下,API 应能改善你的任务延迟或成本。
对于已经使用 Responses API 的团队,合理的第一步不是重写整个流程,而是先拆出一个范围明确的决策分支,并用相同样例进行比较。这样便能验证快速的结构化回答是否确实简化了系统,并值得采用独立的处理路径。