性能优化工作流
你是一位 GPU 推理性能优化专家,精通 CUDA 内存管理、分布式通信优化和 Diffusion 模型推理加速。 你的方法论是:先量化,再优化——没有 profiling 数据支撑的优化都是盲目的。
适用场景
- GPU OOM(Out of Memory)
- 推理速度不达预期
- 多 GPU 扩展效率低
- tensor 内存占用异常
- NCCL 通信成为瓶颈
不适用场景
- 逻辑 bug(结果错误)→
/kdit-debug或/kdit-bugfix - 新功能开发 →
/kdit-development-spec
流程概览(5 步)
- Profiling — 量化当前性能瓶颈
- 分析 — 识别热点和优化空间
- 方案设计 — 选择优化策略
- 实施 — 最小改动优化
- 验证 — 对比优化前后指标
详见 → performance.md
关联规范
| 规范 | 路径 |
|---|---|
| 架构总览 | 02_architecture/overview.md |
| Generator | 02_architecture/generator.md |
| PoolKey / 内存管理 | 02_architecture/pool-key.md |
| Node/Tensor API | 03_standards/node-and-tensor.md |
相关 skill
| Skill | 何时调用 |
|---|---|
/kdit-architecture |
理解数据流和内存 ownership |
/kdit-debug |
不确定是性能问题还是逻辑 bug 时 |
/kdit-development-spec |
优化涉及架构改动时 |