专栏算法工具链模型转换中的”threshold”参数

模型转换中的”threshold”参数

已解决
五岁月下练剑2023-05-05
28
12

您好,

在模型转换中有一个”threhold”参数,文档中讲是每个层次的校准阈值,用于异常状态下向地平线技术支持反馈信息。
请问这个值正常的取值范围是多少呢?
这个文档中提到的“异常状态”指的是什么呢,是转换结果性能,精度差吗?
算法工具链
征程3
评论2
0/1000
  • 颜值即正义
    Lv.2

    你好,这个属于量化参数,用户不需要关注哈,范围是和模型相关的,并没有明确的取值范围。

    异常状态指精度差

    2023-05-05
    0
    9
    • 五岁月下练剑回复颜值即正义:

      yolov5模型在量化后相比pt模型对小目标的识别能力有些下降,看转换信息的话,余弦相似度没有太大的变化,但再threshold中有几段算子的这个值达到40多。不知道是否和这个有关,请问这些值又反应了什么信息呢

      2023-05-05
      0
    • 颜值即正义回复五岁月下练剑:

      threshold是用于模型量化的的参数,精度调优的话,建议参考这篇文章进行微调哈:https://developer.horizon.ai/forumDetail/71036815603174578

      2023-05-05
      0
    • 五岁月下练剑回复颜值即正义:

      请问有没有使用HB_onnxruntime验证原始onnx的示例呢

      2023-05-06
      0
    • 五岁月下练剑回复颜值即正义:

      另外我看文档上写的是异常情况下用于反馈信息,您也说异常是指精度问题,那么现在出现一些精度差的问题,请问这些值能反映出什么信息呢,可以反馈出一些排查方向吗

      2023-05-06
      0
    • 颜值即正义回复五岁月下练剑:

      original.onnx上面链接中是有的呀,验证刚导出的onnx,可以使用公版的onnxruntime,后期我们也会专门写一篇介绍这个的文章。

      2023-05-06
      0
    • 颜值即正义回复五岁月下练剑:
      threshold是量化的通用概念哈,在量化中,threshold是指用于确定量化之后的量化值的阈值,更具体的信息可以百度一下~

      从截图看,这些都是没什么问题的哈,建议按照链接中的建议来进行排查与优化哈

      2023-05-06
      0
    • 五岁月下练剑回复颜值即正义:
      好的,谢谢。original我知道可以使用官方脚本来验证,我是看您发的链接中有说最好用HB_onnxruntime验证原始浮点模型(即您说的刚导出的onnx),所以想问问你们有没有相关示例提供
      2023-05-06
      0
    • 颜值即正义回复五岁月下练剑:

      就在精度验证那篇文章里呀,如下图所示:

      2023-05-06
      0
    • 五岁月下练剑回复颜值即正义:

      好,谢谢。我以为会有示例脚本那种,那我自己试试吧

      2023-05-06
      0
  • 颜值即正义
    Lv.2
    2023-05-05
    0
    1
    • 五岁月下练剑回复颜值即正义:

      好的,已经填过了

      2023-05-05
      0