ascend-ai-coding
- 230 skills
- 0 followers
- 10 hours ago last updated
- ▌ External Gitcode Ascend Ascendc Operator Mssanitizer · ascend-ai-coding bundleAscend C 算子 mssanitizer 内存检测分析技能。用于检测和分析算子内存问题:非法内存访问、非法释放、内存泄漏、UB地址越界,生成问题报告。自动识别算子工程类型(ops算子仓用GE IR模式,自定义算子用Python模式)。触发关键词:mssanitizer、内存检测、内存泄漏、非法访问、illegal free、内存错误。
- ▌ External Gitcode Ascend Atb Aclnn Operator Migration · ascend-ai-coding自动执行 ATB 算子到 ACLNN 的迁移操作,在 910B/950 设备上启用 ACLNN 加速。 支持参数映射、ACLNN Runner 实现、设备检测切换和功能/性能验证全流程。
- ▌ External Gitcode Ascend Megatron Migration Generator · ascend-ai-coding bundleGenerate migration deliverables for bringing relevant Megatron changes into MindSpeed after branch alignment and impact mapping are complete. Use when Codex already has a confirmed MindSpeed-to-Megatron branch pairing and needs to produce a migration report, candidate patch, or guarded workspace edits instead of redoing upstream analysis from scratch.
- ▌ External Gitcode Ascend Mindspeed Fsdp2 Verification · ascend-ai-coding bundle用于执行 MindSpeed-MM FSDP2 迁移的功能与可靠性验收门禁。适用于模型/数据/配置改动后,验证一次分布式端到端成功并留存证据时。
- ▌ Mindspeed LLM Pipeline · ascend-ai-coding bundleMindSpeed-LLM 端到端训练部署流水线,用于华为昇腾 NPU。串联环境搭建、数据预处理、权重转换、分布式训练、推理验证、评估、权重导出的完整流程。覆盖参数一致性校验、阶段间数据流转、模型特定配置(Qwen、LLaMA、DeepSeek)。用户需要在昇腾 NPU 上完成 MindSpeed-LLM 训练部署全流程时使用。
- ▌ Mindspeed LLM Training · ascend-ai-coding bundleMindSpeed-LLM 分布式训练启动指南,用于华为昇腾 NPU。覆盖预训练、指令微调(Full/LoRA/QLoRA)、偏好对齐(DPO)的训练启动配置,包含入口脚本选择、并行策略(TP/PP/CP)、训练参数、可选评估。当用户需要在昇腾 NPU 上启动 MindSpeed-LLM 训练任务时使用。
- ▌ Mindspeed Mm Generative · ascend-ai-coding bundleUniversal MindSpeed-MM generative model training guide for Huawei Ascend NPU. Covers all backend patterns (Megatron, Megatron+FSDP2, FSDP2-native, Accelerate+DeepSpeed), feature extraction, weight conversion, and training for ALL supported generative models. Supports Wan2.1/2.2, HunyuanVideo/1.5, CogVideoX, OpenSoraPlan, VACE, LTX2, FLUX, SD3, SDXL, Sana, HiDream, StepVideo, Lumina and more. Use when training multimodal generative models on Ascend NPU.
- ▌ External Cannbot Ops Pypto Op Perf Tune Perf Analyzer · ascend-ai-coding bundle分析 PyPTO 算子的性能指标。当需要分析PyPTO算子的性能指标,从性能数据文件中提取关键指标,计算性能评级,或提供性能瓶颈分析和优化建议时使用此技能。
- ▌ External Cannbot Ops Pypto Op Perf Tune Tune Frontend · ascend-ai-codingPyPTO 算子开箱性能调优技能。主要关注代码级的调优、前端写法不同导致的性能差异,包括 loop 写法优化、TileShape 设置优化、数据操作优化等。当用户需要进行算子初始开发性能优化、开箱性能调优时使用此技能。触发词:开箱性能调优、代码级优化、loop 优化、TileShape 设置、前端优化。
- ▌ External Cannbot Ops Pypto Op Perf Tune Tune Swimlane · ascend-ai-codingPyPTO 算子深度性能调优技能。通过泳道图分析及调优性能,包括 Stitch 调优、TileShape 深度调优、合图调优、调度策略调优等。当用户需要进行深度性能调优、泳道图分析、Stitch 优化、合图优化时使用此技能。触发词:深度性能调优、泳道图分析、Stitch 调优、合图调优、调度优化。
- ▌ External Gitcode Ascend Ascendc Operator Project Init · ascend-ai-coding bundle初始化 AscendC 算子工程并创建可编译的算子骨架。触发场景:(1) 用户要求创建新算子;(2) 关键词:ascendc算子、新建算子、算子目录、算子初始化;(3) 需要基于 ascend-kernel 模板快速落地。本 skill 不只建目录,还输出“可继续开发”的标准文件与检查清单。
- ▌ External Gitcode Ascend Ascendc Operator Testcase Gen · ascend-ai-coding bundle完成AscendC算子验证用例生成 - 帮助用户完成testcase设计。当用户提到用例设计、泛化用例生成、算子标杆、UT用例、精度用例、性能用例时,使用此skill。
- ▌ Mindspeed LLM Data Prep · ascend-ai-coding bundleMindSpeed-LLM 数据预处理指南,用于华为昇腾 NPU。覆盖预训练数据、指令微调数据(Alpaca/ShareGPT 格式)、偏好对齐数据(Pairwise)的预处理流程。包含分词、打包、输出文件结构说明和 prompt 模板配置。当用户需要为 MindSpeed-LLM 训练准备数据时使用。
- ▌ Mindspeed LLM Env Setup · ascend-ai-coding bundleMindSpeed-LLM 环境搭建指南,用于华为昇腾 NPU。覆盖 CANN 环境激活、PyTorch + torch_npu 安装、MindSpeed 加速库安装、Megatron-LM 核心模块集成、MindSpeed-LLM 安装及环境验证。当用户需要在昇腾 NPU 上搭建 MindSpeed-LLM 训练环境时使用。
- ▌ Mindspeed Mm Weight Prep · ascend-ai-coding bundleMindSpeed-MM weight conversion guide using mm-convert CLI tool. Covers HuggingFace to MindSpeed-MM format conversion, reverse conversion, and PP weight resplitting. Supports Qwen2VLConverter, Qwen2_5_VLConverter, InternVLConverter, WanConverter and more. Use when converting multimodal model weights on Ascend NPU.
- ▌ External Gitcode Ascend Ascend Inference Repos Copilot · ascend-ai-coding昇腾(Ascend)推理生态开源代码仓库智能问答专家旨在为 vLLM、vLLM-Ascend、MindIE-LLM、MindIE-SD、MindIE-Motor、MindIE-Turbo 以及 msModelSlim (MindStudio-ModelSlim) 等仓库提供专家级且易于理解的解释。在处理昇腾(Ascend)推理生态相关项目的用户询问时,务必触发此技能(Skill),可解答使用方法、部署流程、支持模型、支持特性、系统架构、配置管理、调试、测试、故障排查、性能优化、定制开发、源码解析以及其他技术问题。支持中英文双语回复,并可借助 deepwiki MCP 工具检索仓库知识库,生成具备上下文感知且基于证据的回答。Ascend inference ecosystem open-source code repository intelligent question-and-answer (Q&A) expert. Provide expert-level yet comprehensible explanations for repositories such as vLLM, vLLM-Ascend, MindIE-LLM, MindIE-SD, MindIE-Motor, MindIE-Turbo, and msModelSlim (MindStudio-ModelSlim). Use this skill when addressing user inquiries related to these Ascend inference ecosystem projects, including topics such as usage, deployment process, supported models, supported features, system architecture, configuration management, debugging, testing, troubleshooting, performance optimization, custom development, source code analysis, and any other technical issues about these projects. Support responses in both
- ▌ External Gitcode Ascend Ascendc Operator Compile Debug · ascend-ai-coding编译安装 AscendC 算子并执行精度测试。TRIGGER when: 算子代码生成完成后需要编译验证、安装 whl 包、运行精度测试,或编译/测试失败需要排查。关键词:build.sh、编译、安装、whl、pytest、精度测试、编译错误、NPU 测试。
- ▌ External Gitcode Ascend Mindspeed Fsdp2 Data Migration · ascend-ai-coding bundle用于将数据预处理与数据加载契约迁移到 MindSpeed-MM FSDP2。适用于实现数据集注册、预处理复用、collate 行为与输入字段兼容时。
- ▌ External Gitcode Ascend Mindspeed Fsdp2 Migration Main · ascend-ai-coding bundle用于统筹 MindSpeed-MM FSDP2 端到端迁移。适用于需要协同模型、数据、配置与验证子流程迁移任意新模型时。
- ▌ External Gitcode Ascend Msverl Daily Regression Triage · ascend-ai-coding bundleTriage a daily msverl regression run by reading the baseline comparison log, stopping on success, extracting the most relevant training failure evidence from the daily training log when needed, collecting recent commits from verl main and MindSpeed master, and ranking the most likely culprit commits with concise fix-direction guidance.
- ▌ External Gitcode Ascend Triton Operator Precision Eval · ascend-ai-coding bundleTriton 算子精度评估。与 PyTorch 参考实现对比,自动计算误差指标,生成标准化精度报告。关键词:精度测试、precision evaluation、精度报告、accuracy verification。
- ▌ AI For Science Ascend Tf Community · ascend-ai-coding bundle昇腾 TensorFlow Community 迁移适配 Skill,适用于将基于 TensorFlow 2.x 的模型原生部署到华为 Ascend NPU,而不经过 TF 到 PyTorch 转换,覆盖 aarch64 源码编译 TF 2.6.5、tfplugin 安装、自动迁移工具使用、手动适配与精度验证。
- ▌ External Gitcode Ascend Ascendc Operator Precision Eval · ascend-ai-coding bundleAscendC算子精度评估。对已编译安装的算子生成全面的精度测试用例集(≥30例),运行并生成精度验证报告。关键词:精度测试、precision evaluation、精度报告、accuracy、误差分析。执行完成后 MUST 在当前对话中展示总览、失败摘要与关键发现,不得仅附报告路径。
- ▌ External Gitcode Ascend Mindspeed Fsdp2 Model Migration · ascend-ai-coding bundle用于模型侧迁移到 MindSpeed-MM FSDP2 注册与加载契约。适用于实现模型插件、加载签名兼容、token/embedding 更新与前向兼容时。
- ▌ External Gitcode Ascend Simple Vector Triton Gpu To Npu · ascend-ai-coding bundle将简单Vector类型Triton算子从GPU迁移到昇腾NPU。当用户需要迁移Triton代码到NPU、提到GPU到NPU迁移、Triton迁移、昇腾适配时使用。注意:无法自动迁移存在编译问题的算子。
- ▌ Mindspeed LLM Weight Prep · ascend-ai-coding bundleMindSpeed-LLM 权重转换指南,用于华为昇腾 NPU。覆盖 HuggingFace 到 Megatron 格式转换、Megatron 到 HuggingFace 反向转换、LoRA 权重合并导出、TP/PP/EP 并行切分配置。支持 v1 和 v2 转换器,适用于 Qwen、LLaMA、DeepSeek、Mixtral 等模型。当用户需要转换模型权重格式时使用。
- ▌ External Cannbot Ops Lab Tilelang Skills Tilelang Review · ascend-ai-coding bundle检查代码格式是否符合 CI 规则。适用于 TileLang NPU kernel 开发时的代码规范检查和格式化。自动检测并安装缺失工具(ruff、clang-format),先运行检查生成报告,使用醒目方式询问用户后,仅在用户同意时执行修复。工作流程:检测环境→自动安装缺失工具→运行检查→生成报告→醒目询问→用户确认→执行修复。使用此技能当:用户要求"格式检查"、"格式化代码"、"代码格式化"、"检查代码格式"、"代码 review"、"代码审查"、"修复格式"、"fix format"、"lint code"、"检查代码规范"、提交 PR 前验证、或需要检查 Python/C++ 代码风格时。
- ▌ External Gitcode Ascend Ascendc Operator Precision Debug · ascend-ai-coding bundleAscendC 算子精度问题调试与根因定位。当算子精度测试失败(allclose 不通过、结果偏差、输出全零/NaN 等)时使用。流程:误差分布分析 → 代码易错点审查 → 实验隔离 → printf/DumpTensor 插桩 → 修复验证。关键词:精度调试、精度问题、结果不一致、误差定位、allclose 失败、输出偏差、NaN、全零、precision debug。
- ▌ External Gitcode Ascend Mindspeed Fsdp2 Config Migration · ascend-ai-coding bundle用于将源训练设置映射到 MindSpeed-MM FSDP2 YAML 契约。适用于创建或修复 model_id/dataset_type/plugin 对齐、strict/extra 分层与分片配置时。
- ▌ External Gitcode Ascend Triton Operator Performance Eval · ascend-ai-coding bundle评估 Ascend NPU 上 Triton 算子性能。使用 msprof/msprof op 采集性能数据,诊断 Memory-Bound/Compute-Bound 瓶颈,测量硬件利用率,生成性能报告。
- ▌ Hiascend Forum Fetcher · ascend-ai-coding bundle读取昇腾社区论坛(Hiascend Community Forum)的帖子内容,支持按时间范围筛选并导出为Excel。支持时间快捷选项(今年、本月、本周、今天)和自定义区间,自动剔除置顶贴(top>0),智能终止查询,时区自动转换(+8小时),并发分页获取提升效率,并将topicId转换为可点击的论坛链接。当用户需要获取昇腾论坛帖子、筛选特定时间范围的论坛内容、导出论坛数据到Excel时触发使用。
- ▌ External Gitcode Ascend Ascendc Operator Performance Eval · ascend-ai-coding bundle在 ascend-kernel 的 csrc/ops/<op>/test 下维护仅含 JSONL 的 profiler 性能用例,使用 torch_npu.profiler(固定 warmup=5、active=5)采集,汇总 ASCEND_PROFILER_OUTPUT/op_statistic.csv 的 Total Time(us),输出含 DType 列的统一 Markdown 对比报告(自定义算子 vs 标杆)。不生成 perf_cases.json 与 *_profiler_results.json。参考实现见 examples/layer_norm_profiler_reference/。
- ▌ External Gitcode Ascend Drivingsdk Ascend Model Migration · ascend-ai-coding bundleAscend NPU model migration suite. Invoke when user wants to migrate/train models on Ascend NPU, setup environment, or deploy models from open-source repositories.
- ▌ External Gitcode Ascend Triton Operator Performance Optim · ascend-ai-coding bundle优化 Ascend NPU 亲和的 Triton 算子性能。解决 UB 溢出、提高 Cube 利用率、Tiling 策略设计。关键词:性能优化、performance optimization、tiling、UB。
- ▌ Hiascend Forum Analyzer · ascend-ai-coding bundle昇腾社区论坛问题分析工具,读取Excel格式的论坛帖子数据,自动筛选问题、故障、报错类帖子,获取帖子详细内容,并根据关键词进行多维度筛选分析,最终导出结构化的问题数据Excel报告。用于分析昇腾论坛中的技术问题、故障排查和报错处理相关帖子。
- ▌ External Gitcode Ascend Ascendc Operator Performance Optim · ascend-ai-coding bundle排查并优化 Ascend C 算子性能。当用户开发、审查或优化 Ascend C kernel 算子时使用,或当用户提及 Ascend C 性能优化、算子优化、tiling、流水、搬运、 内存优化、NPU/昇腾等关键词时触发。
- ▌ External Gitcode Ascend Catlass Operator Performance Optim · ascend-ai-coding指导 Catlass 算子性能调优。流程:阅读 catlass 优化指南、获取/更新 profiler 基线、按指南修改 tiling、重新编译、**强制产出并展示性能对比报告**、迭代对比。调优策略以 catlass 文档为准。条件不明则追问。
- ▌ External Gitcode Ascend Vector Triton Ascend Ops Optimizer · ascend-ai-coding bundle昇腾(Ascend) NPU 上 Triton 算子深度性能优化技能(Skill),致力于实现用户要求的 Triton 算子性能提升。核心技术包括但不限于 Unified Buffer (UB) 容量规划、多 Tokens 并行处理、MTE/Vector 流水并行、mask(掩码)优化等。当用户提及以下内容时,务必触发此技能(Skill):昇腾(Ascend)NPU 上 Vector 类 Triton 算子性能优化。
- ▌ External Cannbot Ops Lab Tilelang Skills Tilelang Op Design · ascend-ai-coding bundle根据算子需求生成 TileLang-Ascend 算子设计文档(design.md)。涵盖编程模式选型(Developer/Expert/混合)、API 映射、内存层级规划、Tiling 策略、循环结构、同步策略、验证方案等。触发:设计算子、生成 design.md、算子方案设计、新算子开发、算子实现方案。
- ▌ External Gitcode Ascend Atb Ops To Aclnn Migration Workflow · ascend-ai-coding bundleATB OPS→ACLNN 迁移标准化工作流主模板。整合前置学习、设计文档生成、CSV用例设计、 实际迁移、编译验证、测试验证全流程,提供明确的阶段 Gates 和用户确认机制。
- ▌ Diffusers Ascend Pipeline · ascend-ai-coding bundleDiffusers Pipeline 推理指南,用于华为昇腾 NPU。覆盖环境预检、通用 Pipeline 推理(图像/视频模型)、内存优化(CPU offload、attention slicing、VAE slicing)、LoRA 加载与融合、多卡推理和按版本检索 Diffusers API。用户一旦提到在昇腾 NPU 上运行 FLUX、SDXL、Wan、CogVideoX 等 Diffusers 推理,或需要排查推理参数、显存优化、LoRA 接入、Pipeline API 路径时,就应使用此 skill。
- ▌ Diffusers Ascend Env Setup · ascend-ai-coding bundleHuggingFace Diffusers 环境配置指南,用于华为昇腾 NPU。覆盖 CANN 版本检测、PyTorch + torch_npu 安装、Diffusers 库安装及环境验证。当用户需要在昇腾 NPU 上配置 Diffusers 环境时使用。
- ▌ External Cannbot Ops Lab Tilelang Skills Tilelang Op Develop · ascend-ai-coding bundle基于设计文档生成 TileLang-Ascend 算子实现代码与测试。从 design.md 中提取关键信息,结合 examples/ 中的参考实现生成可运行代码。触发:实现算子、写 kernel、生成代码、算子编码、根据设计文档实现。
- ▌ Diffusers Ascend Weight Prep · ascend-ai-coding bundleDiffusers 模型权重准备工具,用于华为昇腾 NPU。支持从 HuggingFace 和 ModelScope 下载模型权重,以及基于 model_index.json 和各组件 config.json 生成假权重用于业务验证。当用户需要下载 Diffusers 模型权重或生成测试权重时使用。
- ▌ External Gitcode Ascend Atb Aclnn Operator Replacement Desig · ascend-ai-coding bundle自动生成 ATB 到 ACLNN 算子替换的详细设计文档。接收用户提供的 ATB 和 ACLNN 接口文档链接, 输出包含参数映射、开发自测、风险评估的 7 章结构化设计文档。 TRIGGER when: 用户需要将 ATB 算子替换为 ACLNN 算子并撰写设计文档。
- ▌ External Cannbot Graph Torch Npugraph Ex Compile Error Diagn · ascend-ai-codingPyTorch 昇腾 NPU npugraph_ex 编译期报错诊断。覆盖 torch.compile 触发后 TorchDynamo / FX / AOTAutograd / npugraph_ex backend / ACL graph capture 阶段的报错排查,包括 Unsupported / graph break / BackendCompilerFailed / Meta 推导失败 / capture 失败等场景。本 skill 由 dfx-triage 路由进入。触发:当用户遇到 npugraph_ex 入图失败、graph break、BackendCompilerFailed、Meta 推导失败或 capture 失败时加载。关键词:入图失败、断图、graph break、BackendCompilerFailed、Meta、FakeTensor、aot_eager、capture。
- ▌ External Cannbot Graph Torch Npugraph Ex Runtime Error Diagn · ascend-ai-codingPyTorch 昇腾 NPU npugraph_ex 运行时报错诊断。覆盖 ACL graph 已 capture 成功之后,replay / kernel launch / 通信 / 内存 / device API 阶段的报错排查,包括 aclnnXxx 算子失败、HCCL 错误、stream/event 同步、segfault、device side assert、OOM 等场景。本 skill 由 dfx-triage 路由进入。触发:当用户遇到 npugraph_ex replay / aclnn / HCCL / stream / OOM 等运行时报错时加载。关键词:runtime、ACL、aclnn、HCCL、stream、event、device side assert、segfault、OOM、CANN plog。
- ▌
- ▌ Profiling Analysis Hostbound · ascend-ai-coding bundle分析MindStudio Insight采集的profiling数据识别快慢卡,以及分析系统trace文件识别Host侧进程性能问题。当用户需要分析NPU卡间性能差异或Host侧进程瓶颈时调用。
- ▌ External Cannbot Ops Lab Tilelang Skills Tilelang API Best P · ascend-ai-coding bundleTileLang Ascend API 使用最佳实践。提供内存分配、数据搬运、矩阵计算、归约、元素级运算、同步、调度原语等 API 的正确用法和最佳实践。触发:使用 TileLang API 编写 Ascend NPU kernel 时或遇到 API 相关问题时。
- ▌ Profiling Analysis Communication · ascend-ai-coding bundleSkill for analyzing communication performance bottlenecks and detecting slow/fast rank issues in Ascend NPU systems. Use this skill whenever you need to analyze communication efficiency, data transfer bottlenecks, or identify slow/fast rank problems using profiling data.
- ▌ External Cannbot Ops Lab Tilelang Skills Tilelang Programmin · ascend-ai-coding bundleTileLang Ascend Developer/Expert 模式选择与 pass_configs 配置指南。当需要确定编程模式、配置 pass_configs、或在两种模式之间转换时触发。API 详情请参考 tilelang-api-best-practices skill。
- ▌ Inference Precision Tensor Dump Compare · ascend-ai-coding bundle模型层 Tensor 打点与精度对比工具。用于在模型 forward 过程中捕获模型各层中间 tensor,实现 GPU/NPU 精度对比调试。支持 vLLM、SGLang 推理框架。When to use: When you need to debug precision issues between GPU and NPU,or validate layer-wise tensor outputs during inference.
- ▌ Migration Ascend Torchnpu Skills Environment Setup · ascend-ai-codingProvides detailed procedures for setting up Ascend NPU development environment. Invoke when installing Ascend drivers, CANN toolkit, torch\_npu, or resolving environment compatibility issues.
- ▌ Migration Ascend Torchnpu Skills Migration Execution · ascend-ai-codingProvides step-by-step code migration procedures from GPU/CPU to Ascend NPU. Invoke when performing actual code adaptation, interface replacement, or debugging NPU compatibility issues.
- ▌ Migration Ascend Torchnpu Skills Torch Npu Reference · ascend-ai-codingProvides torch\_npu API compatibility reference and interface mapping knowledge. Invoke when checking NPU interface support, finding equivalent replacements, or resolving torch\_npu compatibility issues.
- ▌ Ascendc · ascend-ai-coding bundleEnd-to-end AscendC custom operator development for Ascend NPU in an ascend-kernel (csrc/ops + build.sh + torch_npu PyTorch custom op) project. Use to design, generate, build, test, document, and tune a new AscendC operator from a name and a math/functional spec. Covers project init, two-level tiling design, op_host/op_kernel code generation, framework registration, compile/install/debug, PyTorch-style API docs, precision evaluation and root-cause debugging, torch_npu.profiler performance benchmarking, performance optimization, and security code review.
- ▌ Npu Smi · ascend-ai-coding bundleHuawei Ascend NPU npu-smi command reference. Use for device queries (health, temperature, power, memory, processes, ECC), configuration (thresholds, modes, fan), firmware upgrades (MCU, bootloader, VRD), virtualization (vNPU), and certificate management.
- ▌ Torch Npu · ascend-ai-coding bundle华为昇腾 Ascend Extension for PyTorch (torch_npu) 的环境检查、部署与能力指引。在用户使用 @torch_npu、昇腾 NPU、CANN、或需要将 PyTorch 迁移到 NPU 时自动应用;当用户使用 @torch_npu_doc 时,基于 skill 的 reference 文档提供项目内中文文档能力说明。
- ▌ Ascend Dmi · ascend-ai-coding bundle当用户需要对华为昇腾 NPU 进行硬件层面的管理、测试或诊断时使用此 skill。典型场景: - 查看 NPU 卡的状态、温度、利用率 - 测试内存带宽(h2d/d2h/d2d/p2p) - 跑算力/功耗基准测试(TFLOPS、TOPS) - 诊断 NPU 硬件故障或做健康检查 - 对 NPU 卡做压力测试(aicore、内存) - 复位/恢复卡住或异常的 NPU 卡 典型用户问题(即使不提 ascend-dmi 也应触发): - "帮我测一下这台服务器的算力和带宽" - "看看 192.168.1.50 上 NPU 的温度和利用率" - "跑个 fp16 算力测试,看看 TFLOPS 多少" - "d2d 带宽有没有达标" - "3 号卡好像有问题,帮我诊断一下" - "NPU 卡住了,复位一下" - "对 8 张卡做个压力测试" - "跑个功耗测试,edp 模式" Use this skill whenever the user wants to measure, diagnose, or manage Ascend NPU hardware directly — including checking server NPU performance (算力/带宽/功耗), diagnosing hardware faults, or resetting NPU cards. Trigger even when the user only mentions "服务器" + "算力/带宽/NPU状态" without saying "ascend-dmi". Do NOT use for: writing NPU code, installing frameworks, debugging training issues, or Docker configuration.
- ▌ Create Pr · ascend-ai-codingCreates GitHub pull requests with properly formatted titles that pass the check-pr-title CI validation. Use when creating PRs, submitting changes for review, or when the user says /pr or asks to create a pull request.
- ▌ Tests Mock Skill · ascend-ai-codingA mock skill for testing purposes - validates sync script functionality
- ▌ Ais Bench · ascend-ai-coding bundleAISBench Benchmark - AI model evaluation tool for Ascend NPU. Supports accuracy evaluation (service/local models on text, multimodal datasets), performance evaluation (latency, throughput, stress testing, steady-state, real traffic simulation), vLLM/Triton inference services, 15+ benchmarks (MMLU, GSM8K, MMMU, docvqa, ocrbench_v2, etc.), multi-turn dialogue, Function Call (BFCL), and custom datasets.
- ▌ Ascend Opplugin · ascend-ai-coding bundle用于指导 Ascend C(CANN / xpu_kernel)算子开发完成后接入 PyTorch:与 torch_npu 对接、Host 侧注册与构建、Python 暴露与冒烟测试。涵盖算子工程内轻量化接入、必要时参考 op-plugin、Pybind 快速联调、复用图算子封装等。适用于 Ascend C、算子接入、torch_npu、NPU 自定义算子、op-plugin、xpu_kernel、cpp_extension、自定义算子等场景。
- ▌ Rl Msprobe · ascend-ai-coding bundle自动化 verl msprobe 精度数据采集;开始前检查/预装 msprobe(pip install mindstudio-probe)。自动识别三种模式:(1) 训练采集——global_profiler + precision_debugger stages;(2) 推理采集——vLLM/SGLang rollout dump;(3) 训推一致性——engine patch + PROMPTS_ONLY。触发词:verl dump、msprobe、mindstudio-probe、训练采集、推理采集、训推一致性、PrecisionDebugger。
- ▌ Ascend Avi Vnpu · ascend-ai-coding bundle昇腾虚拟化实例(AVI)和vNPU管理技能。用于查询/设置AVI模式、管理vNPU实例(创建/销毁)、查询vNPU配置恢复状态等操作。支持安全确认机制,在执行修改操作前检查设备状态。
- ▌ Remote Npu Test · ascend-ai-codingRun NPU inference/training tests on a remote SSH server with vllm-ascend Docker container. Use when the user asks to test models on NPU, run inference on Ascend devices, or deploy models to an SSH server.
- ▌ Npu Op Benchmark · ascend-ai-coding bundle昇腾 NPU 单算子性能基准测试 Skill;当前版本只做现有环境检查、CANN 版本识别、用户确认后执行 benchmark,不负责修复或安装环境。
- ▌ External Gitcode Ascend Mmcv · ascend-ai-coding在昇腾NPU容器中编译安装mmcv-full,支持NPU算子。适用于需要mmcv作为依赖的其他OpenMMLab库安装前的前置步骤。
- ▌ Vllm Ascend · ascend-ai-coding bundlevLLM Ascend plugin for LLM inference serving on Huawei Ascend NPU. Use for offline batch inference, API server deployment, quantization inference (with msmodelslim quantized models), tensor/pipeline parallelism for distributed serving, and OpenAI-compatible API endpoints. Supports Qwen, DeepSeek, GLM, LLaMA models with Ascend-optimized kernels.
- ▌ External Cannbot Ops Npu Arch · ascend-ai-coding bundleAscend NPU 架构知识查询技能。通过芯片型号映射、架构代际划分和 archXX 特性说明,帮助判断目标平台能力、特性支持与条件编译策略。当需要确认芯片型号、NpuArch/SocVersion、架构差异、特性支持或编译分支条件时使用。
- ▌
- ▌
- ▌
- ▌
- ▌
- ▌ External Gitcode Ascend Mmdet3d · ascend-ai-coding在昇腾NPU容器中安装mmdetection3d(含mmsegmentation依赖)。适用于3D目标检测模型的开发。
- ▌ AI For Science Ai4s Main · ascend-ai-codingAI for Science 昇腾 NPU 总入口 Skill,用于在用户只给出 AI for Science 需求、模型名、TensorFlow/Keras 项目或性能采集诉求时,判断应该进入 Profiling 采集、模型迁移或 TF 框架三条路线,并分流到对应子 skill。
- ▌ Npu Docker Launcher · ascend-ai-coding bundleDirectly launch Docker containers on Ascend NPU servers for users. Collect requirements and execute docker run commands with proper NPU device mounting, networking, volume mounts, and environment variables. Use when users need to: (1) Start a Docker container on an NPU server, (2) Create containers with NPU device access, (3) Configure and launch containers with specific networking or mount requirements.
- ▌ Remote Server Guide · ascend-ai-coding bundleGuide for connecting to remote servers via SSH, managing containers, and executing commands remotely. Covers SSH connection setup with multiple authentication methods (SSH key, sshpass, Paramiko, Fabric, tmux interactive), Docker container connection and command execution, file transfer, and troubleshooting. Use this skill whenever users need to: (1) Connect to a remote server or VPS via SSH, (2) Execute commands on remote machines, (3) Transfer files to/from remote servers, (4) Connect to Docker containers on remote hosts, (5) Set up SSH password authentication tools. Even if the user just says 'help me run something on my server' or 'connect to my machine', this skill applies.
- ▌ Verl Quickstart · ascend-ai-coding bundleGenerates an executable, end-to-end VERL reinforcement learning quickstart runbook for Ascend/NPU (docker image, dataset preprocessing, model setup, main_ppo training, and examples/run_*.sh flow). Use when users mention verl, quickstart, PPO/GRPO, gsm8k, run_*.sh, Ascend, or NPU training.
- ▌
- ▌
- ▌ AI For Science Ankh Ascend Npu Skill · ascend-ai-coding bundleAnkh 蛋白质语言模型昇腾 NPU 迁移 Skill,适用于 Ankh base/large、Ankh3 large/XL 以及同类基于 HuggingFace Transformers 与 PyTorch 的蛋白模型从 CUDA/GPU 到华为 Ascend NPU 的环境检查、代码适配、权重加载、验证脚本补齐与文档沉淀。
- ▌ Vllm Bench Serve · ascend-ai-coding bundleInteractive online benchmark orchestrator for vLLM inference services using `vllm bench serve`. Supports single benchmarks, multi-case batch execution with result aggregation, and auto-optimization to find optimal concurrency/throughput under latency SLO constraints (TTFT, TPOT, P99, success rate). Use this skill whenever the user wants to benchmark, stress test, or measure performance of a running LLM/multimodal/embedding inference service — even if they don't say "vllm bench serve" explicitly. Do NOT use for offline inference throughput, service deployment/startup, profiling/tracing, health checks only, or analyzing existing benchmark results without running new tests.
- ▌ External Cannbot Ops Ops Profiling · ascend-ai-coding bundleNPU 性能采集与分析,用于采集算子性能数据、定位性能瓶颈并给出优化建议。当用户在算子开发过程中提到"上板性能"、"算子性能测试"、"硬件性能验证"、"NPU性能采集"、"NPU profiling"等场景时触发。
- ▌
- ▌ Tech Docs Guard · ascend-ai-coding bundle评估 CANN 算子仓的「进阶教程 / 开发指南」类文档质量——通读文档 + 对照算子代码**静态**查证(默认不跑),按五轴(找得到/信得过/学得会/可操作/读得懂)找出 漏讲/讲不清/过时/对不上代码/概念讲错,产出带证据与改进建议的体检报告(MD + HTML)。涉及「评进阶教程 / 开发指南文档质量 / 文档对不对得上代码 / 教程审稿 / tutorial 体检 / 文档信不信得过」等意图时使用。只评不改不跑,只对着文档与代码出诊断。
- ▌ Inferencex Report · ascend-ai-coding bundleAutomatically fetch InferenceX benchmark data and generate daily performance reports for LLM inference on various hardware (NVIDIA, AMD, etc.). Supports email delivery, data change detection, and 8k1k sequence length performance analysis. Use when needing to track LLM inference performance trends, compare hardware configurations, or monitor benchmark updates.
- ▌ Triton Ascend Migration · ascend-ai-coding bundle将 GPU/CUDA Triton 算子迁移为 Triton-Ascend,或将 Python/PyTorch 算子改写为可在 Ascend NPU 上运行的 Triton-Ascend 实现,并在发现明确优化空间时直接输出优化后的代码、最小验证脚本和排障说明。用户只要提到 昇腾、Ascend、NPU、triton-ascend、Triton 算子迁移、PyTorch 算子改写、coreDim、UB overflow、1D grid、物理核绑定、block_ptr、stride、访存对齐、mask 性能、dtype 退化、算子优化,或者直接问“这个 skill 怎么用”“怎么在命令行里跑”“怎么在容器里执行迁移/验证”,就应优先使用本 skill,即使用户没有明确说“写 skill”或“做迁移”。
- ▌ Github Issue Rca · ascend-ai-coding bundleGitHub Issue root cause analysis skill. Analyze specified GitHub issues to identify possible root causes by examining issue content, code repository, and related resources. Use when user asks to analyze issue root cause, investigate issue, RCA analysis, or troubleshoot GitHub issues. Provides investigation directions with probability estimates and explicitly states when root cause cannot be determined.
- ▌ AI For Science Boltz2 · ascend-ai-coding bundleBoltz2 蛋白质结构预测模型的昇腾 NPU 迁移与复现 Skill,适用于在华为 Ascend 910、910B、910C 上准备权重、适配 Lightning 和 CUDA only kernel、完成 Boltz2 端到端结构预测推理,并沉淀可复现的环境与验证命令。
- ▌ Npu Torchair Infer · ascend-ai-coding bundleMigrate any HuggingFace model to Ascend NPU torchair graph mode (torch.compile) and benchmark it for accuracy and performance against NPU eager and CPU eager. Use when running, compiling, or benchmarking HF models (vision, text, image-text encoders such as SigLIP2, DINOv3, ViT, CLIP, Qwen-VL, SAM) on Ascend 910B/CANN with torch_npu and torchair; when a torch.compile graph-mode run on NPU fails (Dynamo TorchRuntimeError, unsupported op, interpolate/contiguous errors); or when comparing torchair vs npu_eager vs cpu with cosine similarity, max abs diff, and p50/p95/p99 latency.
- ▌ Vllm Ascend Server · ascend-ai-coding bundleDeploy vLLM inference services on Ascend NPU servers with automatic model detection and optimized configuration. Supports local and remote deployment across bare metal, containers, and Docker images. Handles model discovery, quantization auto-detection, tensor parallelism configuration, graph/eager mode selection, and service health verification. Use when users need to: (1) Start or deploy vLLM server on NPU, (2) Launch LLM inference service, (3) Configure multi-card tensor parallel deployment, (4) Enable speculative decoding (Eagle) or quantization, (5) Run vllm offline batch inference, (6) Check or test vLLM service status.
- ▌ Profiling Analysis · ascend-ai-coding bundle华为昇腾NPU性能分析技能集,**当用户提供Profiling文件或目录路径时必须使用**,用于分析Profiling数据识别计算、通信、下发等性能瓶颈,支持step_trace_time.csv、op_statistic.csv、kernel_details.csv等多种数据格式,提供完整的性能分析流程和优化建议。
- ▌ Torch Npu Comm Test · ascend-ai-coding bundle通过 PyTorch torch.distributed 接口测试昇腾 NPU 通信算子性能。支持指定任意 tensor shape、dtype,使用 torchrun 启动,贴近真实训练场景的通信算子测试与性能分析。Use for testing collective communication operators (AllReduce, AllGather, ReduceScatter, etc.) with specific tensor shapes via torch.distributed on Ascend NPU.
- ▌ External Cannbot Ops Pypto Op Design · ascend-ai-coding bundle当需要设计 PyPTO 算子实现方案时使用此 skill。基于算子规格与相关上下文,生成 DESIGN.md(含 API 映射、Tiling 策略、Loop 结构)。Triggers: 生成设计方案、生成 design、设计这个算子、写 DESIGN.md、算子设计、API 映射、Tiling 策略、tiling strategy、Loop 结构、数据切分、怎么切分数据、怎么做 tiling、设计文档、实现方案。
- ▌ External Mindstudio Github Raw Fetch · ascend-ai-coding当用户提供 GitHub 文件页面链接,或希望读取某个仓库中的源码、配置、README、Markdown、docs 内容时,使用此技能。技能不仅支持将 `github.com/<owner>/<repo>/blob/<ref>/...` 转换为 `raw.githubusercontent.com` 链接,还要求在读取仓库 docs 前优先读取同仓库同 ref 的 `agent_router.md`,根据其中声明的目录结构或路由规则拼出真实路径,并优先通过 `curl` 获取内容。
- ▌ AI For Science Ai4s Profiling · ascend-ai-coding bundleAI for Science 场景下的昇腾 NPU Profiling 采集与性能分析 Skill,用于在华为 Ascend NPU 上使用 torch_npu.profiler 采集 L0、L1、L2 级性能数据,分析训练或推理中的算子耗时、调用栈、内存与瓶颈,并指导后续调优。
- ▌ AI For Science Deepfri · ascend-ai-coding bundleDeepFRI 的 TensorFlow 到 PyTorch 转换与昇腾 NPU 迁移 Skill,适用于蛋白质功能预测场景下的 TF 模型分析、PyTorch 重写、权重逐层映射、NPU 推理与精度验证,尤其适合需要在 Ascend 上运行 DeepFRI CNN 或 GCN 路径时使用。