专栏算法工具链单目标跟踪模型转换问题

单目标跟踪模型转换问题

已解决
casiatao2022-09-06
92
4

我在对一个单目标跟踪模型进行转换，转换的过程中并没有报错，node_similarity也比较正常，但是在上板验证时，模型的输出不正确，我反复检查的模型的预处理，校准数据的预处理，模型的后处理代码等，均为找到出现问题的原因，希望能帮我找一找可能存在的问题

附件中是一些资料和代码，校准数据超过了10M，可以通过百度云下载 链接：https://pan.baidu.com/s/1XdUgRM0z8uQYW5x0-g6mGQ?pwd=y23y

提取码：y23y

附件:
算法工具链
评论1
0/1000
  • Horizon_guosheng
    Lv.1
    2022-09-06
    0
    3
    • casiatao回复Horizon_guosheng:

      转换前的onnx模型是没有问题的，量化后的onnx模型我没有在docker中进行测试，因为预处理和后处理代码是自己写的，测试的话需要费一些时间，所以直接用bin模型在开发板上做了测试，正常来说，量化后的onnx模型应该与bin模型的输出是一致的吧？

      2022-09-06
      0
    • casiatao回复Horizon_guosheng:

      您好，我在docker中对量化后的onnx模型也做了测试，我直接比较了模型输出的featuremap，发现与原始onnx模型的输出相比，cls是非常接近的，但是bbox的输出差距非常大，从转换后的日志文件来看，从conv_202到Exp_272，是bbox分支的一些层（您可以打开附件中的onnx模型查看），这些层的node similarity都比较低，是不是说明这一分支在转换过程中损失了很多精度，而且similarity是在Conv_202这一层突然下降的，之前的相似度都在0.98以上。同时，我还发现，模型上板运行之后，输出的cls分支与量化的onnx模型输出的值差距也比较大，不知道这是什么原因造成的

      2022-09-06
      0
    • 颜值即正义回复casiatao:

      已解决

      OE版本与板端推理工具版本问题。

      成功解决上述问题的OE版本：OE2.3.3，对应的板端hrt_model_exec：v1.9.9

      2022-09-13
      0