DeepSeek 开源 DeepInfer 推理框架

1. 02:56
   The Decoder

   DeepSeek 开源推理引擎 DeepInfer，赋能最快最便宜模型

   DeepSeek 以 Apache 2.0 许可证开源了内部推理框架 DeepInfer，该框架基于 vLLM 并加入优化的计算内核、多芯片分布式处理及更快文本生成技术，用于支撑 V4.1-Flash 模型高效响应。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。