专栏算法工具链多输入模型校准数据集准备

多输入模型校准数据集准备

yy12342023-09-07
99
2
1.芯片型号:J5
2.天工开物开发包OpenExplorer版本:j5_OE_1.1.62
3.问题定位:模型转换
4.问题具体描述:你好,我们打算对多输入 多输出模型进行ptq的方式量化,目前模型检查已通过,使用hb_mapper makertbin --fast-perf模式生成时发现部分算子未满足算子约束,后续我们逐渐修改这些算子。想请教一下,这种多输入的模型,校准数据如何准备及对应的yaml配置需要怎么调整。每个输入都需要准备相应的数据吗?

模型输入结构在附图,模型链接: https://pan.baidu.com/s/1410XpSbTjwdme83gBXWGJA 提取码: mp58

算法工具链
评论2
0/1000
  • 颜值即正义
    Lv.2

    你好,修改后满足算子约束的模型建议您先使用fast-perf快速编译模型并检查模型性能是否满足要求。如果性能满足要求,再准备校准数据和yaml文件,多输入模型需要为每个输入准备校准数据:

    2023-09-07
    0
    0
  • 颜值即正义
    Lv.2
    您好,地平线工具链在持续迭代优化,为了给您提供更好的服务,希望您能抽出3分钟左右的时间,将您在使用工具链期间的感受和建议告诉我们,您的宝贵意见对我们很重要,非常感谢!
    问卷链接:地平线算法工具链使用满意度反馈
    2023-09-07
    0
    0