智能体工作流里,大量调用其实只是在做选择题:归类、路由、打分。OpenAI把这类需求收成Decisions API,并在10月22日宣布正式可用。接口用GPT-6 Luna,输入文本、图像或原生JSON,输出三类有界答案——条件概率、固定选项中的选择、或对照量表的分数——官方称可比经Responses API调用Luna最高约快10倍。
相对公测,正式版增加原生GPT-Live集成、提示缓存、美欧推理驻留、问题指令内嵌图像,以及单请求最多400题(此前200)。定价口径为极低输入价、缓存输入更低,且无输出token计费(以官网为准)。Box、Datadog、Ramp、Sierra、Speak等客户给出延迟与成本改善案例,例如对话编排亚秒级决策、命令风险评分进入热路径等。
这与TypeSafe等决策模型赛道形成对照:OpenAI走的是“通用模型特化接口”而非另训专用决策小模型。开发者需要自己定义允许答案集合,避免把开放生成误当成确定性裁决。
一句话收尾:Decisions API承认一件事——智能体大半时间在做选择题,而选择题不该按写长文的价格和时延来付。