Firefly开源社区

标题: 3399pro使用rknn模型推理慢有可能是系统原因吗？ [打印本页]

作者: lmg001 时间: 2023-2-24 14:35
标题: 3399pro使用rknn模型推理慢有可能是系统原因吗？
在rk3399pro板子上使用rknn-toolkit-lite库推理yolov5s.rknn模型，单inference这一步，就要100ms以上，正常npu加速不可能这么慢啊，会不会和系统有关，根本没有调用npu进行加速？

使用的系统ubuntu18.04-minimal版，使用的python3.6，rknn-toolkit-lite1.7.3，驱动也是1.7.3，看资料都是在debian10上测试的，这会不会和系统有关？
tchip_askquestions

null.zip

22 Bytes, 下载次数: 0, 下载积分: 灯泡 -1 , 经验 -1

作者: chenll 时间: 2023-9-21 15:03
我这里也是出现这个问题，请问你解决了吗

作者: lmg001 时间: 2023-9-23 16:04

chenll 发表于 2023-9-21 15:03
我这里也是出现这个问题，请问你解决了吗

一百多毫秒已经是加速后的结果，如果没有npu加速的话，一次推理就要秒级以上。
至于网上那些几十毫秒一次的，我也不知道是怎么实现的

欢迎光临 Firefly开源社区 (https://dev.t-firefly.com/)