weiyong 发表于 2023-5-10 20:41:02

nanodet 前向时间长

本帖最后由 weiyong 于 2023-5-10 20:49 编辑

描述:
使用 rknn_toolkit2 的官方实例中的 rknn_benchmark 程序测试模型耗时,firefly 3588 核心板 上的耗时比 瑞芯微官方的 rk3588 的耗时时间长,大约是2倍之左右,firfly 3588 核心板的整个模型耗时大约是130ms,瑞芯微官方3588整个模型的耗时大约是70ms

但是当我使用官方demo中自带的yolov5模型时候,两个板子的推理时间相差很小

模型:nanodet_m_320,(rknn模型在附件中)

firefly 系统:ubuntu 20
firefly 驱动版本:0.8.2

瑞芯微原版系统:ubuntu 18
瑞芯微驱动版本:0.8.0


请问这个情况是什么原因造成的,我应该采取什么措施解决




为了查看每一层的耗时,我修改了 rknn_init 参数


int ret = rknn_init(&ctx, model_path, 0, RKNN_FLAG_COLLECT_PERF_MASK, NULL);


在rknn_run 运行之后,添加如下代码:
rknn_perf_detail perf_detail;
ret = rknn_query(ctx, RKNN_QUERY_PERF_DETAIL, &perf_detail, sizeof(perf_detail));
if(ret < 0){
    printf("query time fail\n");
    return -1;
}
printf("%s\n", perf_detail.perf_data);






biscuit 发表于 2023-11-12 21:38:17

你好,你的问题解决了吗
页: [1]
查看完整版本: nanodet 前向时间长