Eagle Corp 开源 EAGLE-4 推理加速草稿模型

导读

Eagle Corp 发布开源灵活草稿模型 EAGLE-4，可根据批大小、硬件和工作负载自适应调整投机解码策略，并保持目标模型的输出分布。实测搭配 Qwen3.8-27B 在 4× NVIDIA B300 上达到 961.6 tokens/s。Eagle 是服务 NVIDIA、Meta、Intel、AMD、Perplexity 等公司的 AI 推理平台。