External Cannbot Ops Ops Precision Standard

算子精度标准。描述 Ascend C 算子各种 dtype 输出对应的精度比对标准(atol/rtol)。当需要(1)评估算子精度是否达标,(2)编写 ST 测试验证精度,(3)处理 FP16/FP32/BF16 等不同数据类型精度问题,(4)确认算子精度验收标准时触发。

ascend-ai-coding 14efbd3 24 files · 158.4 KB Updated

File contents

选择精度标准

随机数生成算子?
  ├─ 是 → 随机数生成类标准(reference/random_generation.md)
  └─ 否 → 包含数值计算?
           ├─ 否 → 非计算类标准(reference/non_compute.md)
           └─ 是 → 检查输入输出dtype
                    ├─ 均为整型 → 整数计算类标准(reference/integer_compute.md)
                    ├─ 整型↔浮点 → 用户明确说明使用商用标准?
                    │              ├─ 是 → 量化计算类标准 (reference/quantization.md)
                    │              └─ 否 → 量化计算类社区标准(reference/quantization_community.md)
                    └─ 均为浮点 → 用户明确说明使用商用标准?
                                  ├─ 是 → 浮点计算类标准(reference/float_compute.md)
                                  └─ 否 → 浮点计算类社区标准(reference/float_compute_community.md)

辅助文档

  • 特殊场景处理 - 小值域、INF/NAN、精度复检等特殊场景
  • 标杆构造方法 - CPU Golden或三方芯片标杆构造
  • 测试用例生成 - 测试用例设计与边界覆盖

ascend-ai-coding/awesome-ascend-skills/tree/main/external/cannbot/ops/ops-precision-standard commit 14efbd3878

Frequently asked questions

npx skillmds@latest add ascend-ai-coding/external-cannbot-ops-ops-precision-standard