RV1126 安装 RKNN Toolkit Lite 的方法

东逝之水

799959745 发表于 2022-4-11 10:45
没有试过

那用什么算法能达到视频实时效果，有试过吗？

799959745

东逝之水 发表于 2022-4-11 10:49
那用什么算法能达到视频实时效果，有试过吗？

没有试过，需要自行尝试研发

music1913

liu12111 发表于 2021-11-16 21:32
板子为core-1126-jd4。镜像为官方2021年4月19号的build镜像搭配debian10的三个文件。
按照上面方法装的环 ...

请问你刷的是这个镜像吗？从官方百度云盘下载后的路径是：AIO-RV1126(1109)-JD4\Debian10\debian10_2021_0429_1902\debian10\
里面就3个文件：



但我看到刷固件工具中需要指定以下这么多个文件，这个怎么选择与上述3个文件对应呢？

flamebox

liu12111 发表于 2021-11-16 21:32
板子为core-1126-jd4。镜像为官方2021年4月19号的build镜像搭配debian10的三个文件。
按照上面方法装的环 ...

我一样遇到这个问题。原因是跑这个rknn真只能在root用户下跑。所以所有的pip3安装必须先切换到root用户下进行。。。然后就没有问题了。

这家的文档的水平真不敢恭维，惜字如金。他们的目标对象应该只是做底层的资深嵌入式工程师。想拿来玩和只想快速在上面做应用的小白就不要折腾它了。。。

liuyu220803

这家的文档的水平真不敢恭维，惜字如金。他们的目标对象应该只是做底层的资深嵌入式工程师。

说的太对了

jieke@yiqisoft

1. --> Load RKNN model
   
2. done
   
3. --> Init runtime environment
   
4. E Catch exception when init runtime!
   
5. E Traceback (most recent call last):
   
6.   File "/usr/local/lib/python3.7/dist-packages/rknnlite/api/rknn_lite.py", line 144, in init_runtime
   
7.     async_mode=async_mode, rknn2precompile=rknn2precompile)
   
8.   File "rknnlite/api/rknn_runtime.py", line 292, in rknnlite.api.rknn_runtime.RKNNRuntime.__init__
   
9.   File "rknnlite/api/rknn_runtime.py", line 491, in rknnlite.api.rknn_runtime.RKNNRuntime._load_library
   
10.   File "rknnlite/api/rknn_runtime.py", line 486, in rknnlite.api.rknn_runtime.RKNNRuntime._get_rknn_api_lib_path
    
11. Exception: Unsupported run platform: Linux armv7l
    
12. 
    
13. Init runtime environment failed
    

复制代码

我这里提示 不支持 armv7l ，怎么回事？

jieke@yiqisoft

1. root@439f7c3e208f:/opt/devel/rknn-toolkit/rknn-toolkit-lite/examples/inference_with_lite# python3 test.py
   
2. --> Load RKNN model
   
3. done
   
4. --> Init runtime environment
   
5. librknn_runtime version 1.7.1 (97198ce build: 2021-11-24 09:32:17 base: 1131)
   
6. done
   
7. --> Running model
   
8. resnet18
   
9. -----TOP 5-----
   
10. [812]: 0.9993900656700134
    
11. [404]: 0.0004593880439642817
    
12. [657 833]: 2.9284517950145528e-05
    
13. [657 833]: 2.9284517950145528e-05
    
14. [895]: 1.850890475907363e-05
    
15. 
    
16. done
    

复制代码

终于，在docker下，成功跑通，不过，这个运行速度好像很慢很慢。

jieke@yiqisoft

1. Dockerfile:

1. 
   
2. FROM debian:buster
   
3. 
   
4. RUN apt update
   
5. RUN apt install python3-opencv git python3-pip -y
   
6. 
   
7. RUN /usr/bin/python3 -m pip install --upgrade pip
   
8. 
   
9. COPY ./rknn_toolkit_lite-1.7.1-cp37-cp37m-linux_armv7l.whl /tmp
   
10. 
    
11. RUN pip3 install /tmp/rknn_toolkit_lite-1.7.1-cp37-cp37m-linux_armv7l.whl
    
12. 
    
13. RUN rm -rf /tmp/rknn_toolkit_lite-1.7.1-cp37-cp37m-linux_armv7l.whl
    
14. 
    
15. RUN apt install libdrm-dev -y
    
16. 
    
17. COPY ./lib/* /usr/lib
    

复制代码

2. copy rknpu driver files to build directory:

1. 
   
2. cp rknpu/drivers/linux-armhf-puma/usr/lib .
   
3. cp rknn-toolkit/rknn-toolkit-lite/packages/rknn_toolkit_lite-1.7.1-cp37-cp37m-linux_armv7l.whl .
   

复制代码

3. docker build and run command:

1. 
   
2. docker build . -t debian10-python3-opencv:latest
   
3. docker run -it --rm --name rv1126 --privileged -v /dev/dri/card0:/dev/dri/card0 -v /opt/devel/:/opt/devel debian10-python3-opencv /bin/bash
   

复制代码

jieke@yiqisoft

这是运行的效果：耗时25秒左右。

real        0m24.747s

user       0m24.492s
sys         0m0.705s

1. root@743eeb4de2f7:/opt/devel/rknn-toolkit/rknn-toolkit-lite/examples/inference_with_lite# time python3 test.py
   
2. --> list devices:
   
3. *************************
   
4. None devices connected.
   
5. *************************
   
6. done
   
7. --> query support target platform
   
8. **************************************************
   
9. Target platforms filled in RKNN model:         ['RV1109']
   
10. Target platforms supported by this RKNN model: ['RV1109', 'RK1109', 'RV1126', 'RK1126']
    
11. **************************************************
    
12. done
    
13. --> Load RKNN model
    
14. done
    
15. --> Init runtime environment
    
16. librknn_runtime version 1.7.1 (97198ce build: 2021-11-24 09:32:17 base: 1131)
    
17. done
    
18. --> get sdk version:
    
19. ==============================================
    
20. RKNN VERSION:
    
21.   API: librknn_runtime version 1.7.1 (97198ce build: 2021-11-24 09:32:17 base: 1131)
    
22.   DRV: 6.4.6.5.351518
    
23. ==============================================
    
24. 
    
25. done
    
26. --> Running model
    
27. resnet18
    
28. -----TOP 5-----
    
29. [812]: 0.9993900656700134
    
30. [404]: 0.0004593880439642817
    
31. [657 833]: 2.9284517950145528e-05
    
32. [657 833]: 2.9284517950145528e-05
    
33. [895]: 1.850890475907363e-05
    
34. 
    
35. done

复制代码

jieke@yiqisoft

同样的环境，跑 C 版本的demo，耗时只需要 0.7秒。差距大了

1. root@743eeb4de2f7:/opt/devel/yolov5_detect_demo_release# time ./yolov5_detect_demo
   
2. librknn_runtime version 1.7.1 (97198ce build: 2021-11-24 09:32:17 base: 1131)
   
3. time_use is 126.657997
   
4. car @ (258 909 583 1109) 0.841335
   
5. car @ (534 736 739 859) 0.831931
   
6. bus  @ (930 413 1206 531) 0.818415
   
7. car @ (1766 578 1872 657) 0.810571
   
8. car @ (721 760 927 921) 0.792803
   
9. car @ (563 950 801 1115) 0.770443
   
10. car @ (956 809 1138 968) 0.752421
    
11. car @ (801 991 1071 1115) 0.719339
    
12. person @ (1431 619 1461 686) 0.699269
    
13. car @ (0 495 137 598) 0.674166
    
14. person @ (1819 651 1863 739) 0.639357
    
15. car @ (1208 431 1261 472) 0.632317
    
16. car @ (862 402 936 469) 0.618040
    
17. car @ (1781 446 1845 504) 0.575020
    
18. person @ (1543 677 1590 771) 0.561444
    
19. person @ (375 481 399 528) 0.538842
    
20. car @ (1684 431 1737 478) 0.505462
    
21. motorbike  @ (1508 748 1564 836) 0.475376
    
22. person @ (1200 589 1232 677) 0.471330
    
23. car @ (1839 451 1878 501) 0.438286
    
24. traffic light @ (1587 548 1608 607) 0.411564
    
25. car @ (715 390 777 425) 0.394160
    
26. truck  @ (472 451 745 557) 0.392559
    
27. car @ (812 416 874 469) 0.387184
    
28. car @ (466 425 575 481) 0.358873
    
29. car @ (1622 410 1669 454) 0.350634
    
30. car @ (1481 331 1578 378) 0.340664
    
31. car @ (1191 357 1235 404) 0.321087
    
32. 
    
33. real        0m0.690s
    
34. user        0m0.454s
    
35. sys        0m0.191s
    

复制代码