专栏算法工具链PTQ转换失败

PTQ转换失败

已解决
头角峥嵘2024-10-11
85
8

用户您好，请详细描述您所遇到的问题，详细的描述有助于帮助我们快速定位，解决问题~Thanks♪(･ω･)ﾉ

1. 芯片型号：j6e

2. 天工开物开发包 OpenExplorer 版本：3.0.22

3. 问题定位：PTQ

4. 问题具体描述：hb_compile --config ./flashocc_config.yaml 报错

我的输入是按照onnx需要的输入设置的，6张图像放在一起(6, 3, 512, 960)输入

算法工具链
征程6
评论4
0/1000
  • Pipeline
    Lv.2

    是的，拆成6个输入

    2024-10-11
    1
    1
    • 头角峥嵘回复Pipeline:

      谢谢


      2024-10-11
      0
  • Huanghui
    Lv.5

    你好，calibration_type配置成"skip"试一下

    2024-10-11
    0
    1
    • 头角峥嵘回复Huanghui:

      还是同样的报错

      2024-10-11
      0
  • Pipeline
    Lv.2

    nv12不支持多batch，拆开成单batch

    2024-10-11
    0
    1
    • 头角峥嵘回复Pipeline:

      1batch是6张图，意思是把6张图分开，当成6个输入分别喂入，需要在python模型种修改输入吧

      2024-10-11
      0
  • Huanghui
    Lv.5

    由于PTQ方案batchn Pyramid的支持方案还在设计中，因此用户暂时无法通过配置yaml文件中的相关

    参数直接编译出可上板推理的batchn Pyramid模型。因此若您的模型输入shape第一维不等于1，请

    务必将input_type_train和input_type_rt参数配置为featuremap。

    2024-10-11
    0
    1
    • 头角峥嵘回复Huanghui:

      成功了

      2024-10-11
      0