Firefly开源社区

[人工智能] 关于RK3566与RK3588S模型推断时间比较问题

15

积分

0

威望

0

贡献

技术小白

积分
15
发表于 2022-11-22 10:01:30     
问题描述及复现步骤:
对于相同的模型,固定1920,1080分辨率的图像输入,分别使用3566和3588S两个平台NPU做模型推断,推断时间由平均38000微秒提高至20000微秒,对应NPU算力提升了7倍这种结果并不算让人满意,除开对模型的int8量化以外还有哪些提高RKNN模型推断速度的方法?
此外调用rknn_set_core_mask函数设置为3核心共同工作似乎也没有生效(具体验证步骤是在模型推断过程中,cat /sys/kernel/debug/rknpu/load 不断查看NPU利用率,一直显示只有Core0的占用不是0),是否需要某些额外的设置才能生效,有没有类似研究经历的老哥带带孩子

inference time.log

59.88 KB, 下载次数: 0, 下载积分: 灯泡 -1 , 经验 -1

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

友情链接 : 爱板网 电子发烧友论坛 云汉电子社区 粤ICP备14022046号-2
快速回复 返回顶部 返回列表