SGLang 发布 AWS Trainium 插件 Beta

导读

SGLang 与 AWS 合作推出基于 TorchNeuron 的 Trainium 插件 Beta，支持在 Trainium2 和 Trainium3 上进行 LLM 推理服务与 RL rollout 生成。