TechCrunch · AI· Tim Fernholz·· 3 小时前AI 评分64
OpenAI Decisions API 全面开放,主打高速低成本决策
OpenAI makes its Jev competitor widely available as decision model competition heats up
AI 导读
OpenAI将其Decisions API模型向所有客户开放,基于ChatGPT Luna重新配置以加速推理并降低成本。该API可将响应时间从1到3秒缩短至100到180毫秒,已在Box、Datadog、Ramp、Speak等公司试点中替换传统LLM, Speak的CTO称其将动作间隔从1.4秒降至0.13秒。新公开版本还新增了语音和视觉模态支持,并在全球范围优化了推理资源以降低延迟。
来源:TechCrunch · AI · techcrunch.com