闪电部署:5 步跑通第一个模型
针对 P1(刚买 AMD 设备)用户的极简路径。只在用户说"我想最快跑起来"时触发。
检查表
| 步骤 | 做什么 | 参考文件 |
|---|---|---|
| 1 | 确认 GPU 架构与 ROCm pip 索引 | docs/zh/00-environment/rocm-gpu-architecture-table.md 或 docs/en/00-environment/rocm-gpu-architecture-table.md |
| 2 | 安装 ROCm / PyTorch(pip 方式,最简单) | docs/zh/00-environment/index.md / docs/en/00-environment/index.md,官方入口见 docs/zh/04-references/index.md 的“框架与推理服务” |
| 3 | 安装 LM Studio | docs/zh/01-deploy/index.md / docs/en/01-deploy/index.md |
| 4 | 下载 Gemma4 模型并加载 | 同上 |
| 5 | 开始对话 | 同上 |
验证命令
rocminfo # 确认 GPU 被 ROCm 识别
rocm-smi # 查看 GPU 状态(ROCm 7.14+ 已由 amd-smi 替代,旧版仍可用)
python -c "import torch; print(torch.cuda.is_available())" # PyTorch 确认 ROCm 可用
注意
- Windows 用户:确保 ROCm 7.12+ 版本(支持 Windows)
- Linux 用户:推荐 Ubuntu 24.04
- 如果 LM Studio 不工作,回退到 Ollama:
docs/zh/01-deploy/index.md/docs/en/01-deploy/index.md - 需要查框架官方 ROCm 安装入口时,先看
docs/zh/04-references/index.md/docs/en/04-references/index.md的“框架与推理服务”表。