The Decoder· Matthias Bastian·· 5 天前精选
Deepseek 开源其最快最便宜模型背后的推理引擎 DeepInfer
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
AI 导读
据 The Decoder 报道，Deepseek 开源了支撑其快速模型 V4.1-Flash 的推理框架 DeepInfer。该框架基于 vLLM，报道称其可降低运行 AI 模型时的算力成本与能耗，并认为此次开源会给 OpenAI、Anthropic 等西方厂商带来更多价格压力。
为什么值得看
企业负责人可关注推理框架开源对模型部署成本、能耗和供应商价格的影响，作为评估自部署或调用大模型方案的参考；但报道未披露具体成本降幅、硬件要求和开源许可细节，相关效果需进一步核实，价格压力判断属媒体观点。
来源：The Decoder · the-decoder.com