NVIDIA 展示在 DGX Spark 上加速 MoE 推理的 3 种方法，Ling-3.0-flash 吞吐量提升 42.5%

导读

NVIDIA 技术博客展示在单台 DGX Spark 上加速 Ling-3.0-flash 的 MoE 推理，叠加 Humming MXFP4 MoE kernel、FP8 输出层与内置 MTP 投机解码三项优化后。