专栏算法工具链onnx模型转换:ERROR: list index out of range

onnx模型转换:ERROR: list index out of range

cwh123552023-07-26
28
4

用户您好,请详细描述您所遇到的问题:

系统软件版本: (通过 cat /etc/version 获得)

Ai_Toolchain_Package-release-v1.18.2-OE-v2.4.2

openexplorer/ai_toolchain_centos_7_xj3:v1.15.2


  1. 问题涉及的技术领域: (硬件、操作系统、驱动、其他)

算法模型转换

  1. 问题描述:(尽可能详细的描述在进行什么功能的开发或者测试,发现了什么问题,问题现象,并且提供预期的结果)

* 根据文档进行onnx模型转换时,01_check.sh,02_preporcess.sh已经完成,03_build.sh出现下面的错误


input format

错误日志

其他日志见附件

算法工具链
评论1
0/1000
  • 颜值即正义
    Lv.2

    你好,看inputshape的情况是二维输入,此时需要都使用featuremap输入。

    还有就是二维输入的话,下面mean_value和scale_value配置的也不对呀,不应该配置3维啊,如果不想在这儿进行处理,可以将norm_type配置为no_preprocess,还有就是关于layout,使用featuremap输入,非四维不需要配置layout。

    建议先看一下参数配置详解哈:https://developer.horizon.ai/api/v1/fileData/horizon_xj3_open_explorer_cn_doc/oe_mapper/source/ptq/ptq_usage/quantize_compile.html#id2,或者看OE包里的例子,理解一下这些参数如何配置~

    2023-07-27
    0
    3
    • cwh12355回复颜值即正义:

      1.我看了文档calibration_parameters的所有参数都是可选的,我没有配置所有参数,结果还是报错。

      2.calibration_parameters如果有多个输入,能不能只校准其中一个,也就是说只输入一个校准数据集,如果可以的话,怎样配置。

      2023-07-27
      0
    • 颜值即正义回复cwh12355:

      针对多输入时,是需要配置的,此外,参数需要配置正确。

      校准数据是需要两个输入都有的

      2023-07-27
      0
    • 颜值即正义回复cwh12355:

      可以参考OE包中多输入的例子:ddk/samples/ai_toolchain/horizon_model_convert_sample/05_miscellaneous/04_multi_input_example

      2023-07-27
      0