你好,关于这个问题,先说结论: hrt_model_exec infer推理结果与工具链输出结果对比是一致的。处理步骤如下:
1. 使用如下脚本将你提供的测试数据转化为npy文件: example2.npy,方便在hb_verifer中使用
2. 修改脚本/usr/local/lib/python3.10/dist-packages/horizon_tc_ui/verifier/comparator.py如下以查看hb_verifer验证过程中两个模型的推理输出结果

3. 执行命令hb_verifier -m 55_c_7v_quantized_model.bc,55_c_7v.hbm -i example2.npy进行推理验证,结果是PASS,同时生成了bc和hbm针对输入数据 example2.npy 的推理结果o1_653.txt,o2_653.txt等(o1_653.txt与o2_653.txt完全相等,证明了bc&hbm是一致的)
4. 在板端(我自己使用的仿真端)执行命令hrt_model_exec infer --model_file 55_c_7v.hbm --input_file 输入测试数据.txt --enable_dump true --dump_format txt --dump_path . 生成推理结果model_infer_output_0_653.txt,对比model_infer_output_0_653.txt和 o1_653.txt 是一样的,说明 hrt_model_exec 的推理结果和hb_verifer中bc以及hbm的推理结果也是一致的。
需要留意一点: hrt_model_exec 推理hbm模型是使用的C++的API,而在hb_verifer中推理hbm模型用的是 HB_HBMRuntime .
另外: hb_verifer 和hrt_model_exec 的源码也是在DOCKER和OE中存在的,更多信息可以查看源码。