Hello Rocm Quick Deploy

P1 新用户闪电部署检查表 —— 最简路径跑通第一个模型

datawhalechina 1728585 1.5 KB Updated

File contents

闪电部署:5 步跑通第一个模型

针对 P1(刚买 AMD 设备)用户的极简路径。只在用户说"我想最快跑起来"时触发。

检查表

步骤 做什么 参考文件
1 确认 GPU 架构与 ROCm pip 索引 docs/zh/00-environment/rocm-gpu-architecture-table.mddocs/en/00-environment/rocm-gpu-architecture-table.md
2 安装 ROCm / PyTorch(pip 方式,最简单) docs/zh/00-environment/index.md / docs/en/00-environment/index.md,官方入口见 docs/zh/04-references/index.md 的“框架与推理服务”
3 安装 LM Studio docs/zh/01-deploy/index.md / docs/en/01-deploy/index.md
4 下载 Gemma4 模型并加载 同上
5 开始对话 同上

验证命令

rocminfo          # 确认 GPU 被 ROCm 识别
rocm-smi          # 查看 GPU 状态(ROCm 7.14+ 已由 amd-smi 替代,旧版仍可用)
python -c "import torch; print(torch.cuda.is_available())"  # PyTorch 确认 ROCm 可用

注意

  • Windows 用户:确保 ROCm 7.12+ 版本(支持 Windows)
  • Linux 用户:推荐 Ubuntu 24.04
  • 如果 LM Studio 不工作,回退到 Ollama:docs/zh/01-deploy/index.md / docs/en/01-deploy/index.md
  • 需要查框架官方 ROCm 安装入口时,先看 docs/zh/04-references/index.md / docs/en/04-references/index.md 的“框架与推理服务”表。

datawhalechina/hello-rocm/tree/main/src/hello-rocm-skill/references/quick-deploy commit 17285859f1

Frequently asked questions

npx skillmds@latest add datawhalechina/hello-rocm-quick-deploy