miuav edge-inference — 边缘推理 SKILL
引用技能
agents/skills/perception/camera-perception/agents/skills/ros2-debug/
TensorRT 加速
// ONNX → TensorRT
trt_builder->setDLACore(0); // GPU
trt_builder->setFP16Enabled(true); // 半精度加速
ROS2 集成
auto model = std::make_shared<TrtYolo>();
model->load("/path/to/model.trt");
// 推理（< 10ms 每帧）
auto output = model->infer(input_tensor);
关键参数
| 参数 | 值 |
|---|---|
| 批量大小 | 1（实时要求） |
| 精度 | FP16（速度/精度权衡） |
| GPU 内存 | < 2GB |
禁止
- ❌ Batch > 1 用于实时感知（延迟超标）
- ❌ 不做后处理优化（NMS 等在 CPU 上）