DeepSeek 开源自研推理框架 DeepInfer

导读

DeepSeek 宣布其自研推理框架 DeepInfer 现已完全开源，仓库地址为 github.com/deepseek-ai/DeepInfer。该框架支撑 DeepSeek-V4.1-Flash 的大规模服务，具备高吞吐和低延迟，分享生产级技术栈以帮助社区降低算力成本和能耗。作者 Yuchen Jin 转发并评论称这是真正的开放 AI。