The Decoder· Matthias Bastian·· 10 小时前AI 评分54
DeepSeek 开源推理引擎 DeepInfer，赋能最快最便宜模型
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
AI 导读
DeepSeek 以 Apache 2.0 许可证开源了内部推理框架 DeepInfer，该框架基于 vLLM 并加入优化的计算内核、多芯片分布式处理及更快文本生成技术，用于支撑 V4.1-Flash 模型高效响应。
来源：The Decoder · the-decoder.com