Rknn Inference Runtime

瑞芯微RKNN推理运行时 - 模型加载 推理执行 结果获取

miuav 7352049 540 B Updated

File contents

RKNN 推理运行时技能

在瑞芯微NPU上运行RKNN模型推理

何时使用

  • 部署转换好的RKNN模型
  • 多模型管理
  • 实时推理优化

基础用法

from rknn.runtime importRKNN

rknn = RKNN()
rknn.load_rknn('./model.rknn')
rknn.init_runtime()

# 推理
outputs = rknn.inference(inputs=[input_data])

性能优化

  • 使用零拷贝DMA buffer
  • 批量推理
  • 模型预热

miuav/vibe-coding-ros2/tree/main/agents/skills/edge-platforms/rockchip-rknn/rknn-inference-runtime commit 73520499d2

Frequently asked questions

npx skillmds@latest add miuav/rknn-inference-runtime