1. 首页首页
  2. 科技前沿科技前沿

2025年rknn模型（rknn模型部署问题）

科技前沿 • • 阅读 65

rknn模型（rknn模型部署问题）svg xmlns http www w3 org 2000 svg style display none svg

大家好，我是讯享网，很高兴认识大家。



 <svg xmlns="http://www.w3.org/2000/svg" style="display: none;"> <path stroke-linecap="round" d="M5,0 0,2.5 5,5z" id="raphael-marker-block" style="-webkit-tap-highlight-color: rgba(0, 0, 0, 0);"></path> </svg> <p>欢迎学习RKNN系列相关文章&#xff0c;从模型转换、精度分析&#xff0c;评估到部署&#xff0c;推荐好资源&#xff1a;<br /> 一、Ubuntu系统上安装rknn-toolkit<br /> 二、使用rknn-toolkit将Pytorch模型转为RKNN模型<br /> 三、RKNN模型的评估和推理测试<br /> 四、RKNN模型量化精度分析及混合量化提高精度<br /> 五、RKNN模型性能评估和内存评估<br /> 六、rknn-toolkit-lite2部署RKNN模型到开发板上&#xff08;python版&#xff09;<br /> 七、RKNN C API开发板上落地部署RKNN模型<br /> 八、RKNN零拷贝API开发板落地部署RKNN模型</p>

讯享网

在这里插入图片描述
讯享网

官网提供的开发文档和demo代码链接为：RKNN C API

本教程配套的源码包获取方法文章末扫码到公众号「视觉研坊」中回复关键字：RKNN C API部署RKNN模型。获取下载链接。

下载解压后的样子如下：

在这里插入图片描述

RKNN模型在跟目录下的model文件夹中，还有测试图片，如下：

在这里插入图片描述

关于RKNN C API的详细使用说明，都在源码包中的开发文档中。

RKNN C API不同硬件平台支持如下：

在这里插入图片描述

在Ubuntu系统中打开我提供的源码包中example文件，我自己使用的是VScode编译软件。如何在Ubuntu系统中安装VScode软件，推荐教程：Linux上安装VScode软件

在编辑器中打开example文件夹中的build.sh文件，如下：

在这里插入图片描述
在这里插入图片描述

注意上面build.sh文件中的GCC_COMPILER参数，需要将交叉编译器的路径拷贝到此处，下面是将我提供源码包中Cross compiler文件夹下的压缩文件拷贝到arm64文件夹下，具体如下：

在这里插入图片描述

拷贝完后使用下面命令进行解压,，如下：

讯享网

在这里插入图片描述

解压后得到的文件如下：

在这里插入图片描述

CMake构建的配置文件如下，下面框起来的部分都不用修改，保持默认：

在这里插入图片描述
在这里插入图片描述

上面都准备好后，进入到example目录下，运行构建脚步，如下：

 

在这里插入图片描述
 

下面是运行上面脚本后的结果，在example目录下生成了builed和install两个文件夹，如下：
 

在这里插入图片描述
 

先按下快捷键ctrl+shift+p打开搜索框，输入编辑配置，点击c/c++:编辑配置(JSON)，如下：
 

在这里插入图片描述
 

打开后是一个c_cpp_properties.json文件，将源码包中3rdparty/librknn_api/include的路径复制到此文件中，复制后ctrl+s保存，如下：
 

在这里插入图片描述
 

 

同上在c_cpp_properties.json文件中，添加opencv文件夹下的include文件夹路径，记得保存，如下：
 

在这里插入图片描述
 

推理主文件为源码包resnet18/src目录下的main.cc脚本，此脚本中我写了很详细的注释。
 

在正式构建前需要先修改CMakeLists.txt文件下的project参数，如下：
 

在这里插入图片描述
 

下面代码对应源码包中的main.cc脚步，具体代码如下：
 

讯享网
 

上面代码中用到的C API接口详细说明见下。
 

4.3.1 rknn_init
 

在这里插入图片描述
 在这里插入图片描述
 

4.3.2 rknn_query
 

在这里插入图片描述
 

4.3.3 rknn_inputs_set
 

在这里插入图片描述
 

4.3.4 rknn_run
 

rknn_run函数将执行一次模型推理，调用之前需要先通过rknn_inputs_set 函数或者零拷贝的接口设置输入数据。
 

在这里插入图片描述
 

4.3.5 rknn_outputs_get
 

在这里插入图片描述
 在这里插入图片描述
 

在终端进入到resnet18目录下，运行build.sh脚本，如下：
 

在这里插入图片描述
 

运行上面build.sh后，在resnet18目录下生成了buile和install两个文件，关于这两个文件的详细解析，见上面2.4。
 

在这里插入图片描述
 

通过上面的操作，已经得到最终的install文件夹，现需要将install文件夹拷贝到开发板上，可以通过优盘拷贝，也可以通过命令发送，命令发送方式见下。
 

先通过rknn_server连通开发板，连通后用过adb将install文件发送到开发板的根目录上。
 

 

在这里插入图片描述
 

发送完程序文件后通过下面命令，直接进入开发板的可视化终端：
 

讯享网
 

在这里插入图片描述
 

在开发板上进入到install目录下，执行下面命令运行推理程序，执行程序时需要通过命令方式传入三个参数，第一个是要执行的程序，第二个是RKNN模型路径，第三个是测试图片路径。
 

 

在这里插入图片描述
 

运行上面程序后，输出如下所示：
 

在这里插入图片描述
 

对照imagenet1000标签.txt文件，可以看出，推理结果正确，如下：
 

在这里插入图片描述
 

 

以上就是RKNN C API开发板上落地部署RKNN模型的详细流程，希望能帮到你快速上手！
 

总结不易，多多支持！
 

感谢您阅读到最后！关注公众号「视觉研坊」，获取干货教程、实战案例、技术解答、行业资讯！
 


                    


                    


                    

                        

                            

                                小讯
                            

                            

                                

                                    
                                        
                                    
                                

                            

                        

                    

                


                

                    
                    
                    

                        
                        

                             上一篇
                            2025-06-01 20:08
                        

                    

                    
                    


                    
                    
                    

                        
                        

                            下一篇 
                            2025-05-23 18:23
                        

                    

                    
                    
                


                

                    
相关推荐

                    
                

                

                    

                        版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容，请联系我们，一经查实，本站将立刻删除。
如需转载请保留出处：https://51itzy.com/kjqy/203609.html