yolov5s模型从onnx转换成bin文件时报错：Only list, str and generator/iterator type calibration data are supported

颜值即正义

Lv.2

你好，从报错看，是数据格式不支持导致的，模型转换时建议参考这篇文章进行一些数据预处理哈：

https://developer.horizon.ai/forumDetail/118363912788935513

2022-11-21

Allenpandas回复颜值即正义:
您好，想确认一下我的问题大概是出在哪一步了，因为看报错确实不知道该如何排查。
我是因为yolov5s模型的问题，还是说pt转onnx出了问题（hb_checker是检查通过的），还是说onnx转bin出了问题？因为onnx转bin的过程中，无论是yaml配置文件，还是数据预处理，都没有关于“数据类型”的设置。
2022-11-21
0
回复
颜值即正义回复Allenpandas:
您好，根据报错提示，是onnx转bin阶段出现问题。看您的截图，请问您是不是用的OE2.3.3版本，后装了horizon-nn库？

为了避免版本不匹配造成的问题，我这边给您提供三个whl包，可以通过链接下载：
https://pan.horizon.ai/index.php/s/xpt9pHtrAY7M7MC
在docker中，解压后，通过命令安装：pip install ***.whl
然后重走模型转换流程。
2022-11-21
0
回复
颜值即正义回复Allenpandas:
在用户手册如下图位置，是有关于校准数据类型的配置的哈~
2022-11-21
0
回复
Allenpandas回复颜值即正义:
您好我有一个问题，为什么我看到的页面和你看到的页面不一样，没有找到cal_data_type。
PS：我回复消息无法添加照片，给你看一下我的链接：https://developer.horizon.ai/api/v1/fileData/doc/ddk_doc/navigation/ai_toolchain/docs_cn/horizon_ai_toolchain_user_guide/model_conversion.html#model-conversion
2022-11-21
0
回复
颜值即正义回复Allenpandas:
抱歉哈，社区在线手册没有及时把这个参数更新进来，感谢您的反馈，我们会及时更新。我上面发的截图是OE2.3.3开发包中doc/cn/下的XJ3用户手册文档，您可以阅读OE2.3.3包中的用户手册查看到这个参数
2022-11-22
0
回复