Firefly开源社区

打印 上一主题 下一主题

[人工智能] rknn-toolkit-lite2 分析模型过久

112

积分

0

威望

0

贡献

技术小白

积分
112

rknn-toolkit-lite2 分析模型过久

发表于 2023-9-19 18:27:50      浏览:2547 | 回复:5        打印      只看该作者   [复制链接] 楼主
问题描述及复现步骤:
使用 rknn-toolkit-lite2     1.5.2 时候
self.rknn.inference(inputs=[img])分析模型时候使用时间需要100ms 而且CPU会占用百分之15左右

是不是没有使用NPU



微信图片_20230919164611.rar

43.6 KB, 下载次数: 0, 下载积分: 灯泡 -1 , 经验 -1

回复

使用道具 举报

112

积分

0

威望

0

贡献

技术小白

积分
112
发表于 2023-9-19 18:32:18        只看该作者  沙发

这个是使用时间和CPU占用率
回复

使用道具 举报

992

积分

0

威望

0

贡献

技术大神

Rank: 3Rank: 3

积分
992
发表于 2023-9-20 10:38:37        只看该作者  板凳
cat /sys/kernel/debug/rknpu/load 查看npu利用率
回复

使用道具 举报

112

积分

0

威望

0

贡献

技术小白

积分
112
发表于 2023-9-20 10:55:52        只看该作者  地板

一个摄像头使用了百分之2
回复

使用道具 举报

112

积分

0

威望

0

贡献

技术小白

积分
112
发表于 2023-9-20 11:26:32        只看该作者  5#
dengkx 发表于 2023-9-20 10:38
cat /sys/kernel/debug/rknpu/load 查看npu利用率

NPU 在只使用了一个摄像头的情况下 占用了百分之2
回复

使用道具 举报

992

积分

0

威望

0

贡献

技术大神

Rank: 3Rank: 3

积分
992
发表于 2023-9-22 15:38:44        只看该作者  6#
chenll 发表于 2023-9-20 11:26
NPU 在只使用了一个摄像头的情况下 占用了百分之2

这与模型,数据、量化、通道及使用npu接口都有关,需自行排查。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

友情链接 : 爱板网 电子发烧友论坛 云汉电子社区 粤ICP备14022046号-2
快速回复 返回顶部 返回列表