正在加载陈远的个人网站

教程

TorchNeuron 性能剖析(一):在 AWS Trainium 上做系统级性能分析

Hugging Face 社区博客(混合发现)

导读

教程演示如何用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 在 AWS Trainium 上抓取干净的推理性能 trace,并通过 key_averages() 表定位消耗 Neuron 设备时间的算子。