专栏算法工具链模型转换余弦相似度低于0.8

模型转换余弦相似度低于0.8

已解决
麦子2021-10-22
148
4

142_TransposeOutput_FOR_ADDITION_OUTPUT CPU -- Transpose

143 BPU id(0) HzSQuantizedConv 0.997541 0.790200

143_TransposeOutput_FOR_ADDITION_OUTPUT CPU -- Transpose

145 BPU id(0) HzSQuantizedConvTranspose 0.646120 4.060148
148 BPU id(0) HzSQuantizedConvTranspose 0.165048 4.452136

151 BPU id(0) HzSQuantizedConv 0.988144 2.913815

151_TransposeOutput_FOR_ADDITION_OUTPUT CPU -- Transpose

output BPU id(0) HzLut 0.884826 18.788620

2021-10-20 10:46:21,823 file: build.py func: build line No: 601 The quantify model output:

==============================================================================

Node Cosine Similarity L1 Distance L2 Distance Chebyshev Distance

------------------------------------------------------------------------------

output 0.884826 0.394733 0.002295 0.762138

算法工具链
评论2
0/1000
  • admin
    Lv.1

    校验数据集如何选取的呢?

    2021-10-22
    0
    2
    • 麦子回复admin:

      100张测评数据,这100张数据在其他开发平台量化部署是正确的,数据是二进制的4通道float的featuremap

      2021-10-22
      0
    • 麦子回复admin:

      数据输入是(-1,1),4通道float,不需要归一化处理,yaml设置如下

      norm_type: 'no_preprocess'

      mean_value: 0 0 0 0

      scale_value: 1 1 1 1

      2021-10-22
      0
  • 麦子
    Lv.1

    已经从pipeline、模型转换配置、一致性三个方面完成检查,推理的结果依然不对;

    2021-10-22
    0
    0