专栏算法工具链【AI工具链hb_mapper checher与模型转换】TF的pb模型转换onnx后hb_mapper checher的错误分析

【AI工具链hb_mapper checher与模型转换】TF的pb模型转换onnx后hb_mapper checher的错误分析

已解决
XinpeiZhu2022-06-21
66
2

用户您好,请详细描述您所遇到的问题。

1.硬件获取渠道:企业采购

2.当前系统镜像版本:-

3.当前天工开物版本:-

hbdk version 3.24.4

horizon_nn version 0.11.2

hb_mapper version 1.3.53

4.问题定位:Tensorflow graphdef模型转onnx模型后AI工具链hb_mapper checker的错误

5.开发的demo/案例:自定义的目标检测模型

6.需要提供的解决方案:

问题背景:

使用Tensorflow-1.13.1开发自定义模型,保存为graphdef(.pb)文件,转换为onnx文件后经过hb_mapper checker后始终有错误。目前使用了两种模型转换方式1)官方文档的Tensorflow2Onnx方式;2)先pb转coreML模型,再coreML模型转onnx。

checker问题:

####Tensorflow2Onnx####

因为pb文件中格式为NWHC,onnx格式为NCWH,user guide中Tensorflow2Onnx转换出的onnx始终在模型输入输出存在transpose节点用于将NWHC转换为NCWH,在hb_mapper checker中报错:(ckeck的log见附件)

####pb2CoreML2onnx####

使用如下代码同样可以将pb文件转为onnx,同时解决了trapose节点的问题。但是会产生hbdk-cc编译的问题

如上,目前对于此问题没有任何解决思路,烦请有相关经验给予指导,感激!

附件:
算法工具链
评论1
0/1000
  • 颜值即正义
    Lv.2
    您好,请您试一下我们最新版本(docker pull openexplorer/ai_toolchain_centos_7_xj3:v1.13.3),看是否可解决编译问题
    2022-06-21
    0
    1
    • XinpeiZhu回复颜值即正义:

      更新为您所述的docker版本后编译问题已解决,感谢!

      2022-06-22
      0