专栏算法工具链Ganet 模型精度验证时出现精度异常问题

Ganet 模型精度验证时出现精度异常问题

Demeanour2023-09-26
25
1
1.芯片型号:J5
2.天工开物开发包OpenExplorer版本:J5_OE_1.1.52a
3.问题定位:模型测试
4.问题具体描述:在用地平线官方提供的Ganet算法浮点模型、量化模型和定点模型进行精度验证时,浮点模型和定点模型测试的精度正常,但是量化模型精度不太对劲,打印信息如下。后来使用自己训练的模型测试也是同样的问题,请问是什么原因呢?

2023-09-26 10:57:55,782 INFO [loop_base.py:460] Node[0] 0 / 1084

NCCL version 2.14.3+cuda11.6

2023-09-26 10:58:13,906 INFO [metric_updater.py:360] Node[0] Epoch[0] Step[19] GlobalStep[19] ganet_mixvargenet_culane: CulaneF1Score[0.0021]

2023-09-26 10:58:28,946 INFO [metric_updater.py:360] Node[0] Epoch[0] Step[39] GlobalStep[39] ganet_mixvargenet_culane: CulaneF1Score[0.0018]

2023-09-26 10:58:36,617 INFO [loop_base.py:460] Node[0] 50 / 1084

2023-09-26 10:58:44,154 INFO [metric_updater.py:360] Node[0] Epoch[0] Step[59] GlobalStep[59] ganet_mixvargenet_culane: CulaneF1Score[0.0012]

2023-09-26 10:58:58,464 INFO [metric_updater.py:360] Node[0] Epoch[0] Step[79] GlobalStep[79] ganet_mixvargenet_culane: CulaneF1Score[0.0013]

2023-09-26 10:59:13,423 INFO [metric_updater.py:360] Node[0] Epoch[0] Step[99] GlobalStep[99] ganet_mixvargenet_culane: CulaneF1Score[0.0013]

2023-09-26 10:59:13,424 INFO [loop_base.py:460] Node[0] 100 / 1084

2023-09-26 10:59:28,475 INFO [metric_updater.py:360] Node[0] Epoch[0] Step[119] GlobalStep[119] ganet_mixvargenet_culane: CulaneF1Score[0.0017]

2023-09-26 10:59:43,451 INFO [metric_updater.py:360] Node[0] Epoch[0] Step[139] GlobalStep[139] ganet_mixvargenet_culane: CulaneF1Score[0.0014]

算法工具链
评论1
0/1000
  • 颜值即正义
    Lv.2
    您好,在OE1.1.52a并未复现此问题,请首先检查一下您的config文件的qat_predictor的配置
    2023-09-26
    0
    0