A7-3588 · 异构开发

NPU 模型部署

RK3588 集成最高 6 TOPS 的 NPU，A7-3588 可用其运行目标检测、图像分类等神经网络。开发流程分为电脑端模型转换、设备端运行环境准备和推理结果检查。模型格式为 .rknn。

电脑端转换

在 x86_64 Linux 电脑中安装配套 RKNN-Toolkit2，以独立 Python 环境隔离依赖。按照工具包中的 requirements 和 wheel 文件安装，随后检查：

python3 -c 'from rknn.api import RKNN; print(1)'

在模型转换脚本中指定 target_platform='rk3588'，配置模型输入尺寸、通道顺序、均值和归一化参数，再加载原始模型。使用代表真实业务数据的标定集进行量化，导出 RKNN 模型。

设备端准备

应用通过 RKNN Runtime 调用 NPU 驱动。保持 Toolkit、模型、librknnrt.so 与 BSP 驱动兼容：

adb devices -l
adb shell uname -a
adb shell cat /sys/kernel/debug/rknpu/version

运行示例

以 SDK 的 YOLOv5 Linux 示例目录为例：

cd /data/rknn_yolov5_demo_Linux
export LD_LIBRARY_PATH=./lib
./rknn_yolov5_demo model/RK3588/yolov5s-640-640.rknn ./model/bus.jpg resize ./out.jpg

查看输出结果、推理耗时和日志，并与原始模型的结果比较。业务评估需同时记录预处理、推理、后处理时间和内存占用。