专栏算法工具链J5量化BEVFormer

J5量化BEVFormer

已解决
默认328322024-08-22
105
4

J5 J5_OE_1.1.74

我们参考算法工具链示例MobileNet V2对BEVFormer进行QAT量化,目前在如下图1进行calibration阶段出现错误,需要寻求帮助看如何解决这个问题。

报错显示如下图:

然后forward_train的具体定义见下图

算法工具链
技术深度解析征程5
+1
评论4
0/1000
  • kuku
    Lv.1

    报错是在模型内部产生的,但是log并没有反映出是那个位置的问题,需要将模型拆成子模块看一下是哪一行代码导致的问题。从截图上看,可能模型里存在迭代操作,如for、while之类的,这种fx是不支持的,需要修改结构或者wrap掉

    2024-08-22
    1
    0
  • Pipeline
    Lv.2

    不要**解析,直接传tensor进去

    2024-08-22
    0
    0
  • momo(社区版)
    Lv.4
    prepare_qat_fx在配置尾部算子高精度输出的方式有问题,需要包含尾部层的name,如下所示:
    2024-08-22
    0
    0
  • 遥看瀑布挂前川
    Lv.2

    prepare的时候就有问题,没有对全局配置对的qconfig,需要先对全局配置int8,再对尾部配置高精度输出。

    2024-08-22
    0
    0