产品
DeepSeek 开源 DeepInfer 推理引擎:单集群日处理 155T token,估算推理毛利率约 80%
导读
DeepSeek 开源其 V4.1 Flash 背后的生产推理引擎 DeepInfer(Apache 2.0),并附 deepseek-recipe 库,官方称单集群日吞吐 155 万亿 token、缓存命中 96%、错峰每加速器小时收入 $38。
产品
DeepSeek 开源其 V4.1 Flash 背后的生产推理引擎 DeepInfer(Apache 2.0),并附 deepseek-recipe 库,官方称单集群日吞吐 155 万亿 token、缓存命中 96%、错峰每加速器小时收入 $38。