专栏算法工具链J6 多输入模型PTQ量化yaml配置

J6 多输入模型PTQ量化yaml配置

已解决
yy12342024-10-16
97
3

1. 芯片型号：J6

2. 天工开物开发包 OpenExplorer 版本：J6_OE_3.0.22 等

3. 问题定位：模型转换

4. 问题具体描述：你好，我们有一个两输入模型，分别输入图像与特征图，配置input_type_rt: 'nv12;featuremap'时一直有报错

配置：

报错配置项与输入数量不一致：

------------------------------------------------------------------------------------------

配置：

报错：

感觉陷入了死循环，是我配置有问题吗？或者工具链还不完善？在j5上是可以配置nv12和特征图输入的，j5 可以成功量化的yaml配置如下：

算法工具链
征程6
评论2
0/1000
  • Huanghui
    Lv.5

    收到，请一下模型和当前有问题的配置文件，感谢配合！

    另：由于PTQ方案batchn Pyramid的支持方案还在设计中，因此用户暂时无法通过配置yaml文件中的相关参数直接编译出可上板推理的batchn Pyramid模型。因此若您的模型输入shape第一维不等于1，请务必将input_type_train和input_type_rt参数配置为featuremap。
    2024-10-16
    0
    1
    • yy1234回复Huanghui:

      qat支持多batch的 Pyramid图像输入吗

      2024-10-23
      0
  • Huanghui
    Lv.5

    你好，从下面的判断逻辑来看，你下面的配置应该是可以的，发分享模型后，我们再验证一下


    2024-10-16
    0
    0