TechCrunch AI· Tim Fernholz·· 11 days agoSelectedAI score74
OpenAI 全面开放 Decisions API 决策模型
OpenAI makes its Jev competitor widely available as decision model competition heats up
Not yet translated; shown in Chinese.
AI guide
OpenAI 正式向所有客户开放基于 ChatGPT Luna 改造的 Decisions API 决策模型,将推理延迟从 1 至 3 秒降至 100 至 180 毫秒,与 TypeSafe 的 Jev 等分类决策模型展开竞争。该 API 支持在工作流中以极低成本和更高吞吐量替代传统大语言模型,公开版本新增了语音和视觉多模态支持,Speak 等企业实测将动作间隔从 1.4 秒缩短至 0.13 秒。
Why it matters
原文披露了模型基于已有架构调整推理参数的技术路径,为开发者替代高成本模型提供了性能与延迟参考。
Source:TechCrunch AI · techcrunch.com