正在加载陈远的个人网站

教程

vLLM 详解 GLM-5.3 在 16 张 H200 上的优化:PCP、DCP 与 Hybrid HiSparse

vLLM 官方博客(RSS)

导读

vLLM 博客详解 GLM-5.3 在 16 张 H200 上拆分 prefill 与 decode 节点的长上下文优化:PCP 按 token 而非注意力头切分 prompt,DCP 按 token 分片 KV cache,使 1M 上下文仅需每 GPU 6.7 GiB。