专栏算法工具链PTQ模型编译问题

PTQ模型编译问题

已解决
白菜飘落2024-05-27
42
3

1. 芯片型号：J5

2. 天工开物开发包 OpenExplorer 版本：J5 OE 1.1.68

3. 问题定位：模型转换

PTQ方式如何编译出输入为NV12_SEPARATE类型输入的bin模型？

算法工具链
征程5
评论3
0/1000
  • kotei左文亮
    Lv.3

    目前1.1.68版本的OE包，PTQ方式转化后混合异构模型需要适配的输入数据格式有：rgb、bgr、yuv444、nv12、gray、featuremap。暂时还不支持NV12_SEPARATE

    2024-05-27
    0
    0
  • Huanghui
    Lv.5
    你好，NV12_SEPARATE类型是QAT的产物hbm的输入类型，PTQ方式在input_source为pyramid时编译出的是NV12的输入，但是不影响你的使用，PTQ产出的NV12是可以通过运行是属性修改，修改为NV12_SEPARATE，然后分别提供Y分量和UV分量进行推理的。
    2024-05-27
    0
    0
  • 白菜飘落
    Lv.1

    好的，谢谢解答。

    2024-05-28
    0
    0