RKNN 推理运行时技能
在瑞芯微NPU上运行RKNN模型推理
何时使用
- 部署转换好的RKNN模型
- 多模型管理
- 实时推理优化
基础用法
from rknn.runtime importRKNN
rknn = RKNN()
rknn.load_rknn('./model.rknn')
rknn.init_runtime()
# 推理
outputs = rknn.inference(inputs=[input_data])
性能优化
- 使用零拷贝DMA buffer
- 批量推理
- 模型预热
瑞芯微RKNN推理运行时 - 模型加载 推理执行 结果获取
npx skillmds@latest add miuav/rknn-inference-runtime 在瑞芯微NPU上运行RKNN模型推理
from rknn.runtime importRKNN
rknn = RKNN()
rknn.load_rknn('./model.rknn')
rknn.init_runtime()
# 推理
outputs = rknn.inference(inputs=[input_data])
miuav/vibe-coding-ros2/tree/main/agents/skills/edge-platforms/rockchip-rknn/rknn-inference-runtime commit 73520499d2