Firefly开源社区

[人工智能] rknn-toolkit-lite2 分析模型过久

90

积分

0

威望

0

贡献

技术小白

积分
90
发表于 2023-9-19 18:27:50     
问题描述及复现步骤:
使用 rknn-toolkit-lite2     1.5.2 时候
self.rknn.inference(inputs=[img])分析模型时候使用时间需要100ms 而且CPU会占用百分之15左右

是不是没有使用NPU



微信图片_20230919164611.rar

43.6 KB, 下载次数: 0, 下载积分: 灯泡 -1 , 经验 -1

回复

使用道具 举报

90

积分

0

威望

0

贡献

技术小白

积分
90
发表于 2023-9-19 18:32:18     
image.png image.png
这个是使用时间和CPU占用率
回复

使用道具 举报

575

积分

0

威望

0

贡献

技术大神

Rank: 3Rank: 3

积分
575
发表于 2023-9-20 10:38:37     
cat /sys/kernel/debug/rknpu/load 查看npu利用率
回复

使用道具 举报

90

积分

0

威望

0

贡献

技术小白

积分
90
发表于 2023-9-20 10:55:52     
image.png
一个摄像头使用了百分之2
回复

使用道具 举报

90

积分

0

威望

0

贡献

技术小白

积分
90
发表于 2023-9-20 11:26:32     
dengkx 发表于 2023-9-20 10:38
cat /sys/kernel/debug/rknpu/load 查看npu利用率

NPU 在只使用了一个摄像头的情况下 占用了百分之2
回复

使用道具 举报

575

积分

0

威望

0

贡献

技术大神

Rank: 3Rank: 3

积分
575
发表于 2023-9-22 15:38:44     
chenll 发表于 2023-9-20 11:26
NPU 在只使用了一个摄像头的情况下 占用了百分之2

这与模型,数据、量化、通道及使用npu接口都有关,需自行排查。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2014-2022 中山市天启智能科技有限公司 粤ICP备14022046号
快速回复 返回顶部 返回列表