DeepSeek 开源自研推理框架 DeepInfer

导读

DeepSeek 开源自研推理框架 DeepInfer，以及 deepseek-recipe 等服务 DeepSeek 模型的关键组件，代码位于 github.com/deepseek-ai/DeepInfer。DeepInfer 已用于大规模支撑 DeepSeek-V4.1-Flash 的高吞吐低延迟推理，官方希望帮助更多企业和机构部署 DeepSeek 模型并从中获利。