性能测试 error & batchnormalization层调整到 BPU运行
1. J5
2. 天工开物开发包 OpenExplorer 版本:J5_OE_1.1.74
3. 板端部署
4. 问题具体描述:搭建了一个 conv+bn 模型,model.training=True,用torch.onnx.export(...) 转 onnx(给定这个参数 torch.onnx.export(training=torch._C.ONNX.TrainingMode=PRESERVE),这个参数下onnx导出模式有两种,如果model.training=True,则以训练模式导出,否则,以推理模式导出)。基于此onnx模型,进行模型验证、模型转换,均执行成功,但BN层无法指定在BPU运行,设置 node_info 无效,且 hb_mapper markertbin 转换的 bin 模型无法通过静态、动态性能测试。
5. torch导出的onnx模型见图1;模型验证、模型转化结果显示 BN 层在 CPU 运行,结果见图2、图3;quantized_onnx 模型见图4;静态、动态性能测试均不成功,报错结果见图5、图6;

