Firefly开源社区

标题: nanodet 前向时间长 [打印本页]

作者: weiyong 时间: 2023-5-10 20:41
标题: nanodet 前向时间长
本帖最后由 weiyong 于 2023-5-10 20:49 编辑

描述：
使用 rknn_toolkit2 的官方实例中的 rknn_benchmark 程序测试模型耗时，firefly 3588 核心板上的耗时比瑞芯微官方的 rk3588 的耗时时间长，大约是2倍之左右，firfly 3588 核心板的整个模型耗时大约是130ms，瑞芯微官方3588整个模型的耗时大约是70ms

但是当我使用官方demo中自带的yolov5模型时候，两个板子的推理时间相差很小

模型：nanodet_m_320，（rknn模型在附件中）

firefly 系统：ubuntu 20
firefly 驱动版本：0.8.2

瑞芯微原版系统：ubuntu 18
瑞芯微驱动版本：0.8.0

请问这个情况是什么原因造成的，我应该采取什么措施解决

为了查看每一层的耗时，我修改了 rknn_init 参数

int ret = rknn_init(&ctx, model_path, 0, RKNN_FLAG_COLLECT_PERF_MASK, NULL);

在rknn_run 运行之后，添加如下代码：

rknn_perf_detail perf_detail;
ret = rknn_query(ctx, RKNN_QUERY_PERF_DETAIL, &perf_detail, sizeof(perf_detail));
if(ret < 0){
printf("query time fail\n");
return -1;
}
printf("%s\n", perf_detail.perf_data);

复制代码

tchip_askquestions

nanodet.rknn

4.14 MB, 下载次数: 1, 下载积分: 灯泡 -1 , 经验 -1

nanodet rknn模型

测试结果.zip

51.29 KB, 下载次数: 1, 下载积分: 灯泡 -1 , 经验 -1

作者: biscuit 时间: 2023-11-12 21:38
你好，你的问题解决了吗

欢迎光临 Firefly开源社区 (https://dev.t-firefly.com/)