CUDA 性能分析技能
使用NVIDIA工具分析CUDA性能
何时使用
- 性能瓶颈分析
- GPU利用率优化
- 内存访问分析
工具
Nsight Systems
nsys profile -o profile ./app
# 生成 .nsys-rep 文件
Nsight Compute
ncu --metrics sm__throughput.avg.pct_of_peak_sustained ./app
nvprof (Legacy)
nvprof --print-gpu-trace ./app
关键指标
| 指标 | 说明 |
|---|---|
| SM Activity | SM利用率 |
| Warp Efficiency | warp效率 |
| Memory Throughput | 内存带宽 |
| L2 Cache Hit | L2命中率 |
分析流程
- 收集数据
- 分析timeline
- 定位瓶颈
- 优化代码