专栏算法工具链swin_t量化模型在J5上运行精度不对

swin_t量化模型在J5上运行精度不对

已解决
zhangxl2023-06-15
37
1

用户您好,请详细描述您所遇到的问题,这会帮助我们快速定位问题~

1.芯片型号:J5
2.天工开物开发包OpenExplorer版本:例如XJ3_OE_2.4.2,XJ3_OE_1.15.2,J5_OE_1.1.40等
3.问题定位:板端部署
4.问题具体描述

运行命令:./hrt_model_exec infer --model_file=model-7732090d.hbm --input_file=./new_data/img_4.bin --enable_cls_post_process=true --thread_num=2

问题:运行结果跟label对不上与python3 tools/align_bpu_validation.py --config configs/classification/horizon_swin_transformer.py --dataset imagenet的仿真精度相差很大。模型model-7732090d.hbm是通过python3 tools/compile_perf.py --config configs/classification/horizon_swin_transformer.py --out-dir ./ --opt 3 编译导出的。想咨询运行swin_t在板端是要对数据集做什么预处理才可以跑出对应的精度吗?
算法工具链
评论1
0/1000
  • 颜值即正义
    Lv.2

    您好,建议先验证单张图片推理的输出一致性, python端可以运行tools/infer.py脚本来导出模型的输出(使用方式参考https://developer.horizon.ai/forumDetail/143772473308124166);板端可以使用hrt工具dump模型的输出,由于hbm模型的输入格式是NV12的,所以需要你先把输入图片按照训练时的方式resize到模型输入大小(224x224),然后参考这个帖子把图像转成NV12的格式;相关过程可以参考https://developer.horizon.ai/forumDetail/118364000835765839

    2023-06-15
    0
    0