nanodet 前向时间长

weiyong

描述：
使用 rknn_toolkit2 的官方实例中的 rknn_benchmark 程序测试模型耗时，firefly 3588 核心板 上的耗时比 瑞芯微官方的 rk3588 的耗时时间长，大约是2倍之左右，firfly 3588 核心板的整个模型耗时大约是130ms，瑞芯微官方3588整个模型的耗时大约是70ms

但是当我使用官方demo中自带的yolov5模型时候，两个板子的推理时间相差很小

模型：nanodet_m_320，（rknn模型在附件中）

firefly 系统：ubuntu 20
firefly 驱动版本：0.8.2

瑞芯微原版系统：ubuntu 18
瑞芯微驱动版本：0.8.0


请问这个情况是什么原因造成的，我应该采取什么措施解决




为了查看每一层的耗时，我修改了 rknn_init 参数


int ret = rknn_init(&ctx, model_path, 0, RKNN_FLAG_COLLECT_PERF_MASK, NULL);


在rknn_run 运行之后，添加如下代码：

1. rknn_perf_detail perf_detail;
   
2.   ret = rknn_query(ctx, RKNN_QUERY_PERF_DETAIL, &perf_detail, sizeof(perf_detail));
   
3.   if(ret < 0){
   
4.     printf("query time fail\n");
   
5.     return -1;
   
6. }
   
7.   printf("%s\n", perf_detail.perf_data);

复制代码

biscuit

你好，你的问题解决了吗