SGLang-Neuron v0.1.0 开源发布：SGLang 推理栈登陆 AWS Trainium

导读

SGLang 团队与 AWS Annapurna Labs 联合发布并开源 SGLang-Neuron v0.1.0，一个 PyTorch 原生插件，可在 AWS Trainium 上以公共预览形式服务 LLM 和扩散模型。