XM-Sparse：Netpreme X-Mem™ 与 SGLang HiSparse 结合，稀疏注意力解码吞吐最高提升 3.04 倍

导读

XM-Sparse 将 Netpreme X-Mem™ 与 SGLang HiSparse 集成，通过高带宽访问卸载的 KV cache 降低解码延迟并支持更大批次。