多输入模型量化配置文件适配

已解决

老超20242024-08-29

107

1. 芯片型号：J6E

2. 天工开物开发包 OpenExplorer 版本：v3.0.17

3. 问题定位：模型转换

4. 问题具体描述：

pytorch模型在转换onnx模型时自动生成了一些Inputs，如 Model input names: ['input.1', 'onnx::Reshape_1', 'onnx::Slice_2', 'onnx::Concat_3', 'onnx::Mul_4', 'onnx::Unsqueeze_5']

这些自动生成的inputs也不是图像，维度也不是4维，请问后面几项该如何配置？

算法工具链

征程6

0/1000

老超2024
Lv.2
再请教一个关于模型校准的配置项：
如上文中提到模型有多个inputs，input_name: "input.1; onnx::Reshape_1; onnx::Slice_2; onnx::Concat_3; onnx::Mul_4; onnx::Unsqueeze_5"，input_shape: '6x3x256x704; 6x4x4; 1x600x11; 1x600x256; 1x600; 1'，
它们的shape也各不相同，在配置模型校准参数组中的cal_data_dir时，需要针对以上每个输入的shape生成校准数据吗？还是可以通过一些配置项可以将后面五个输入类型为featuremap的inputs给skip掉？
2024-08-29
0
3
- Pipeline回复老超2024:
  每个输入都必要校准，数据都需要传入
  2024-08-29
  1
  回复
- 头角峥嵘回复Pipeline:
  你好，请问一下：
  网络带有时序，猜测feature_map1(10,128,128,2) 是上一帧的特征，feature_map2(10,128,128,2) 是上上帧特征，那么是不是需要在推理时保存这两层的特征，在模型量化时使用？
  如果直接将feature_map1(10,128,128,2) feature_map2 置0，也就是不使用时序，会影响量化结果吗
  2024-08-29
  0
  回复
- Pipeline回复头角峥嵘:
  后量化不会感知模型是否时序
  2024-08-29
  0
  回复
Pipeline
Lv.2
配置成featuremap
2024-08-29
0
2
- 老超2024回复Pipeline:
  配置成featuremap后，后面五个输入的shape是6x4x4; 1x600x11; 1x600x256; 1x600; 1，其对应的input_type_train也是NCHW; NCHW; NCHW; NCHW; NCHW吗？因为我看他们的shape不是4维，跟NCHW四维对应不上，不清楚这样设置对不对
  2024-08-29
  0
  回复
- Pipeline回复老超2024:
  featuremap的数据没有NCHW的概念，可以这么设置
  2024-08-29
  0
  回复
老超2024
Lv.2
还有一个问题请教一下：
针对动态输入模型第一维不为1的情况，在准备校准数据时，如何修改preprocess.py或data_preprocess.py文件实现每份校准数据大小为8x3x224x224？直接在data_preprocess.py中对image使用np.tile赋值8份可以吗？
2024-08-29
0
2
- Pipeline回复老超2024:
  保证与浮点训练模型相同的输入即可
  2024-08-29
  0
  回复
- 老超2024回复Pipeline:
  好的，谢谢
  2024-08-29
  0
  回复
Huanghui
Lv.5
鉴于长时间未收到你的答复，我们暂将该问题做关闭处理，如您仍有相同问题，请在新的帖子中重新发起提问，祝您工作愉快！
另外：对与有时序输入的，可以在推理时把过程数据保留下来做为校准数据使用，这样在calibration节点统计时序输入的min-max进而计算scale时会有一个好的数值。
2024-09-03
1
0