专栏算法工具链YoloV5浮点转定点时，最后会报错“Arrays are not equal”，不知是否正常？

YoloV5浮点转定点时，最后会报错“Arrays are not equal”，不知是否正常？

已解决
pihaio2021-04-07
135
3

修改yolov5_config.yaml,若设置layer_out_dump为True，input_type_rt设置为nv12，最后出现下图提示，不知是否正确？

算法工具链
评论2
0/1000
  • admin
    Lv.1

    模型怎么来的呢？根据我们的官方示例获取？

    2021-04-07
    0
    1
    • pihaio回复admin:

      模型是从 https://github.com/ultralytics/yolov5/releases/download/v4.0/yolov5s.pt上下载的，根据《07_浮点转换工具链常见问题FAQ-1.21.pdf》上FAQ-4-04修改yolo.py转化得到的onnx文件。

      2021-04-08
      0
  • admin
    Lv.1

    你好，这边帮忙提供一下模型，我们安排调试一下，谢谢

    email: ze.chen@horizon.ai

    2021-04-08
    0
    0