论文
vLLM 让 RL 训练更快:训练与推理 logprob 逐位一致,DeepSeek-V4-Flash 与 Nemotron 验证
导读
vLLM 让训练前向直接调用其推理 kernel 并改造这些高性能 kernel,使 rollout 与训练对每个采样 token 产生逐位相同的 logprob(diff = 0)。
论文
vLLM 让训练前向直接调用其推理 kernel 并改造这些高性能 kernel,使 rollout 与训练对每个采样 token 产生逐位相同的 logprob(diff = 0)。