DeepSeek 开源自研推理框架 DeepInfer

导读

DeepSeek 宣布其自研推理框架 DeepInfer 完全开源，代码托管在 http://github.com/deepseek-ai/DeepInfer。该框架以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模推理，官方称开放生产技术栈旨在帮助社区降低算力成本与能耗。