Firefly开源社区

标题: 3399pro 已经支持RKNN Toolkit 1.7.1版本了（Linux） [打印本页]

作者: 895816513 时间: 2022-5-16 15:24
标题: 3399pro 已经支持RKNN Toolkit 1.7.1版本了（Linux）
安装之前建议先看前言哦！
AIO-3399Pro-JD4 和 AIO-3399ProC 一些推理性能的处理方法不同，不看前言容易吃亏{:4_91:}

板子上安装建议安装 RKNN Toolkit Lite

RKNN Toolkit Lite 是 RKNN Toolkit 的精简版本，为用户提供在 PC、RK3399Pro、RK1808、RK1806、V1109、RV1126 上进行模型推理的开发套件。用户通过该 SDK 提供的 Python 接口可以方便、快速地完成 AI 应用的开发和部署。相比 RKNN Toolkit 繁杂且费时的安装过程， RKNN Toolkit Lite 安装过程只需十分钟不到。

跳转链接：
RK3399Pro NPU 手册

当然有什么3399pro Linux 的问题也可以帖子下留言，最后就是帖子下留你发帖子的链接我可以及时回复
tchip_askquestions

RK3399Pro NPU Manual.zip

206 Bytes, 下载次数: 16, 下载积分: 灯泡 -1 , 经验 -1

作者: 895816513 时间: 2022-5-18 11:47
注意：想要运行模型除了需要安装 RKNN Toolkit 之外还需安装，NPU驱动。

运行Ubuntu 的板子上命令行输入：

sudo apt update
sudo apt install firefly-3399pronpu-driver
# reboot
sudo reboot

复制代码

作者: wx__VHZT5J 时间: 2022-7-6 08:57
大神你好，可以请问下，请问可不可以在pc上搭建SDK库进行开发，大致的环境搭建流程是怎么样的，盼回复。

作者: Q.IAN 时间: 2022-7-7 10:58
谢谢，我想问下：
   1.3588支持RKNN Toolkit Lite这套吗？因为我在3588的文档中没有看到，上面的开发套件中也没有提及3588，于是来问下。
   2.是不是意味着，支持RKNN Toolkit Lite的开发套件，可以直接使用python进行开发？（python我比较了解，C++的不太懂）
   再次感谢，期待回复

作者: 895816513 时间: 2022-7-7 14:53

wx__VHZT5J 发表于 2022-7-6 08:57
大神你好，可以请问下，请问可不可以在pc上搭建SDK库进行开发，大致的环境搭建流程是怎么样的，盼回复。

具体开发你可以看rknn-toolkit下的doc文件，这里面是原始资料比较全

https://github.com/rockchip-linux/rknn-toolkit

作者: 895816513 时间: 2022-7-7 14:55

Q.IAN 发表于 2022-7-7 10:58
谢谢，我想问下：
1.3588支持RKNN Toolkit Lite这套吗？因为我在3588的文档中没有看到，上面的开发 ...

1. 差不多，但是rk3588使用的是rknn-toolkit2
https://github.com/rockchip-linux/rknn-toolkit2

2. 可以用Python开发

作者: Q.IAN 时间: 2022-7-12 13:48
谢谢，收到了官方的邮件回复，内容如下：
1.rk3588/rk3588s支持的是RKNN Toolkit2 Lite的版本
2.RKNN Toolkit2 Lite 工具使用 python 简化模型的部署和运行，RKNN Toolkit2 Lite具体可以参考一下文档Rockchip_User_Guide_RKNN_Toolkit_Lite2_V1.*_CN.pdf说明，另外RKNN Toolkit2 Lite需要部署在运行linux系统的板端，一般是跑Debian系统

作者: 星魂 时间: 2022-8-30 13:53
本帖最后由星魂于 2022-8-30 13:55 编辑

rk3399pro 驱动1.7.1版本，对应的rknn-api_1.7.1库在哪里下载呢

作者: 895816513 时间: 2022-8-30 14:20

星魂发表于 2022-8-30 13:53
rk3399pro 驱动1.7.1版本，对应的rknn-api_1.7.1库在哪里下载呢

这个：
https://gitlab.com/firefly-linux/external/rknpu

作者: 星魂 时间: 2022-8-30 15:24

895816513 发表于 2022-8-30 14:20
这个：
https://gitlab.com/firefly-linux/external/rknpu

你发的链接中适合rk3399pro的只有1.6.1版本的rknn-api

作者: 895816513 时间: 2022-9-5 09:24

星魂发表于 2022-8-30 15:24
你发的链接中适合rk3399pro的只有1.6.1版本的rknn-api

3399pro的API rk没有更新，但是1.7.1NPU驱动是兼容1.6.1API的。用1.6.1的驱动就好了，后续API也不会更新。

作者: lmg001 时间: 2023-2-10 15:20
本帖最后由 lmg001 于 2023-2-10 15:21 编辑

大神你好，我看网上好多用rk3399pro跑yolov5的模型，640的尺寸，能达到几十毫秒一帧，怎么做到的？
我用官方提供的模型测试，才差不多250ms一张图，为什么差这么多？
跪求解惑啊

作者: lmg001 时间: 2023-2-22 13:08

lmg001 发表于 2023-2-10 15:20
大神你好，我看网上好多用rk3399pro跑yolov5的模型，640的尺寸，能达到几十毫秒一帧，怎么做到的？
我用官 ...

inference这一步正常要多少ms，我跑inference这一步要超过100ms，模型已经进行了int8量化，怎么降低inference时间

作者: KevinWu 时间: 2023-4-28 14:10
本帖最后由 KevinWu 于 2023-4-28 14:32 编辑

大佬，请问一下，RK3399 PRO 主板已经可以支持到RKNN Toolkit 1.7.3版本了吗？我看github 上2022.10月已经更新到1.7.3版本rockchip-linux / rknn-toolkit ，我这边板子目前是RKNN Toolkit 1.7.1版本和NPU 驱动版本是1.7.1，我尝试用命令升级NPU到最新版本，但提示1.7.1是已经是最新版本。

sudo apt install firefly-3399pronpu-driver

复制代码

如果要升级到NPU到1.7.3版本，是不是得去githubRKNPU For RK3399Pro下载最新的NPU固件，手动更新？

作者: 895816513 时间: 2023-5-6 15:25

KevinWu 发表于 2023-4-28 14:10
大佬，请问一下，RK3399 PRO 主板已经可以支持到RKNN Toolkit 1.7.3版本了吗？我看github 上2022.10月已经 ...

目前我们适配的驱动版本还是1.7.1

作者: KevinWu 时间: 2023-5-6 20:37

895816513 发表于 2023-5-6 15:25
目前我们适配的驱动版本还是1.7.1

好的谢谢大佬

作者: KevinWu 时间: 2023-5-23 16:03

大佬，在线急求！！！感激不尽！请问可以帮忙看看吗？我重新刷了固件(AIO-RK3399PRO-JD4-UBUNTU-20.04_DESKTOP-GPT-20211230-1511.img)，也按照指示安装好了3399pronpu驱动，但是输入npu_transfer_proxy devices，没有任何显示，请问怎么解决？我也尝试把 npu_firmware/npu_fw/*所有文件拷贝到 /vendor/etc/firmware/ 路径下，重启还是没有输出任何信息，参考这个链接RKNPU For RK3399Pro

firefly@firefly:~$ dpkg -l | grep 3399pronpu
ii  firefly-3399pronpu-driver                   1.7.1                               arm64       <insert up to 60 chars description>
firefly@firefly:~$ ps -ef | grep npu_transfer_proxy
root       1231    1  0 07:45 ?       00:00:00 /usr/bin/npu_transfer_proxy
firefly    1372 1358  0 07:50 pts/1 00:00:00 grep --color=auto npu_transfer_proxy
firefly@firefly:~$ npu_transfer_proxy devices
List of ntb devices attached
firefly@firefly:~$ ffgo version
OS:    Ubuntu 20.04.3 LTS
MODEL:    RK3399pro-firefly-aiojd4 board
FIREFLY: v2.10-62-g087b2b2
DATE:    20211228-1443
KERNEL:    Linux version 4.4.194 (jincheng@jincheng-PC) (gcc version 6.3.1 20170404 (Linaro GCC 6.3-2017.05) ) #15 SMP Thu Dec 30 14:52:16 CST 2021

作者: 895816513 时间: 2023-7-24 17:17

KevinWu 发表于 2023-5-23 16:03
大佬，在线急求！！！感激不尽！请问可以帮忙看看吗？我重新刷了固件(AIO-RK3399PRO-JD4-UBUNTU-20.04_ ...

紧急的话，可以发送邮件到service@t-firefly.com
我可能有时候忘记上论坛了

作者: sydpan 时间: 2024-3-5 11:27
请问在板子不能联网的情况下如何安装驱动和RKNN的各种依赖呢？能否提供一个环境包？感谢

作者: wywlr 时间: 2024-4-7 19:14
rk3399pro 驱动1.7.1版本在哪里下载呢？使用不了apt install driver的方式，就想下载一下firefly-3399pronpu-driver_1.7.1_arm64.deb

欢迎光临 Firefly开源社区 (https://dev.t-firefly.com/)