vLLM Day-0 支持 Thinking Machines 的 Inkling 2 Small

导读

vLLM 宣布 Day-0 支持 Thinking Machines 的 Inkling 2 Small，这是一款 594B 总参数、17B 激活的多模态 MoE 模型，上下文最长 1M tokens，并带原生 DSpark 推测解码。