专栏算法工具链量化参考算法bevformer时失败

量化参考算法bevformer时失败

皮卡丘2024-08-05
24
0

1. 芯片型号:J6M

2. 天工开物开发包 OpenExplorer 版本:horizon_j6_open_explorer_v3.0.17-py310_20240705.tar.gz

3. 问题定位:模型转换

4. 问题具体描述:使用export_onnx.py导出bevformer后,使用命令量化bevformer。hb_compile --config bevformer_tiny_config_copy.yaml。bevformer_tiny_config_copy.yaml见附件。

目前主要怀疑是量化参数配置问题,能提供一份能成功量化的参数吗

报告错误:

算法工具链
技术深度解析征程6
评论0
0/1000