Latent Space·· 2 小时前AI 评分59
DeepSeek 开源 DeepInfer 推理引擎，公布生产数据与经济学分析
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek 开源 DeepInfer 推理引擎，支持分布式推理、投机解码与结构化输出，面向 NVIDIA SM100 和 Huawei Ascend 950。
来源：Latent Space · latent.space