教程
TorchNeuron 性能剖析(一):在 AWS Trainium 上做系统级性能分析
导读
教程演示如何用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 在 AWS Trainium 上抓取干净的推理性能 trace,并通过 key_averages() 表定位消耗 Neuron 设备时间的算子。
教程
教程演示如何用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 在 AWS Trainium 上抓取干净的推理性能 trace,并通过 key_averages() 表定位消耗 Neuron 设备时间的算子。