DeepSeek 完全开源自研推理框架 DeepInfer

导读

DeepSeek 宣布将自研推理框架 DeepInfer 完全开源，代码地址 github.com/deepseek-ai/DeepInfer。官方称 DeepInfer 在生产环境中支撑 DeepSeek-V4.1-Flash，实现高吞吐和低延迟，开源旨在帮助社区降低算力成本与能耗。作者认为这将推动所有模型降价。