DeepSeek 开源自研推理框架 DeepInfer

导读

DeepSeek 宣布开源自研推理框架 DeepInfer，该框架以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的规模化运行，代码见 github.com/deepseek-ai/DeepInfer。Nathan Lambert 转评称这是获取模型采用的独特方式，并指出发布时机恰逢美国政府刚在联邦机构禁用 DeepSeek，颇为讽刺。