用户您好,请详细描述您所遇到的问题,详细的描述有助于帮助我们快速定位,解决问题~Thanks♪(・ω・)ノ
1. 芯片型号:J5
2. 天工开物开发包 OpenExplorer 版本: J5_OE_1.1.68
3. 问题定位:模型训练
相机内外参数获取;
生成homography矩阵;
根据homography矩阵导出浮点points;
最后一步对浮点points做int16量化,process_reference_points.py代码中判断模型类型,设置了不同的scale,请问代码中这个scale如何计算, petr模型应该设置成多少呢?
if model=="ipm":
scale = [0.0078125]
elif model == "gkt":
scale = [
0.00390625, 0.00390625, 0.00390625, 0.00390625, 0.00390625,
0.00390625, 0.00390625, 0.00390625, 0.00390625]
if model == "lss":
scale = [0.0078125, 0.03125]
另外代码最后保存的points = points.astype(np.int16)转换成了int16,但我看petr模型信息的非图像输入数据类型是HB_DNN_TENSOR_TYPE_S8,应该是int8类型。直接这样用就可以吗:points = points.astype(np.int8)



