各位老师、社区大佬好,
我在使用Luckfox Pico Ultra(RV1106芯片,armv7l架构)部署一个Transformer分类模型时,在最后一步遇到了无法解决的兼容性问题,恳请指点。
1. 项目背景
硬件:Luckfox Pico Ultra (Rockchip RV1106, Cortex-A7, armv7l)。
系统环境:官方系统镜像,Python版本为3.10.12。
目标:将已训练好的ONNX模型通过NPU加速推理,以解决纯CPU推理延迟过高(250ms)的问题。
2. 已完成工作
在x86_64的Ubuntu PC上,使用rknn-toolkit2 (v2.3.2)成功将模型转换为.rknn格式,并完成了基于真实数据的INT8量化。
确认开发板系统已包含NPU驱动库(如/usr/lib/librknnmrt.so)。
3. 当前核心问题
在开发板Python 3.10环境中安装RKNN的Python运行时(rknn-toolkit-lite2)时失败:
尝试安装从瑞芯微GitHub下载的预编译.whl包(如rknn_toolkit_lite2-2.3.2-cp310-cp310-linux_aarch64.whl),但因架构不兼容(板子是armv7l,包是aarch64)导致ModuleNotFoundError。
在Luckfox的SDK或资料包中找到的rknn_toolkit_lite版本较旧(v1.7.5),仅支持Python 3.6/3.7,与板载Python 3.10不兼容。
4. 具体求助
请问官方或社区是否有针对 Luckfox Pico Ultra (RV1106, armv7l) 且兼容 Python 3.10 的rknn-toolkit-lite2运行时安装包(.whl)?
如果没有现成的包,正确的部署方式是什么?例如:
是否需要以及如何为armv7l架构交叉编译rknn-toolkit-lite2?
是否需要通过Buildroot重新配置系统镜像来集成?
是否有绕过Python API,直接使用C API部署的参考示例?
任何关于在RV1106 (armv7l) + Python 3.10环境下成功调用NPU的经验或指导都将至关重要。感谢!
附:关键环境信息
开发板:Luckfox Pico Ultra
SoC: Rockchip RV1106
架构:armv7l
Python: 3.10.12
目标运行时:rknn-toolkit-lite2 (期望版本 >= 2.0)
【紧急求助】Luckfox Pico Ultra (RV1106/armv7l) 在Python 3.10环境下如何部署RKNN模型?缺少armv7l架构的rknn-toolkit-lite2运行时库
您好 rknn_toolkit_lite 不支持arm32,详见rockchip 官方仓库 https://github.com/airockchip/rknn-tool ... 2/packages 目前所支持的包,使用C库部署参考https://wiki.luckfox.com/Luckfox-Pico-Zero/RKNN
感谢
有点想不开了,这种IPC芯片的主要针对CNN设计,对Transformer里常用的MatMul、LayerNorm这些关键算子都不支持

