Amazon 开源 PyTorch 后端 TorchNeuron，支持 AWS Trainium 芯片

导读

Amazon 本周开源 TorchNeuron，可将 PyTorch 代码转换为 AWS Trainium 上可执行的操作，已有 PyTorch 代码几乎无需改动即可运行。它提供可选的 adaptive eager 模式，将操作分组编译并多级缓存，在跨加速器的大语言模型测试中把首次训练步时间缩短约三分之一。团队用 AI 智能体筛选出 841 个代表性模型及数万个张量形状来调优和评测性能。