专栏算法工具链QAT后编译阶段,多输入为什么在编译时都被删除了。要怎么才能保留输入

QAT后编译阶段,多输入为什么在编译时都被删除了。要怎么才能保留输入

已解决
默认768322024-07-15
81
9

1. 芯片型号:J5

2. 天工开物开发包:

hat版本:2.2.5

j5版本:horizon_j5_open_explorer_v1.1.68

3. 问题定位:模型转换板端hbm时,compile阶段,petr_efficientnetb3_nuscenes.py文件中的inputs都被删除了

算法工具链
评论2
0/1000
  • Huanghui
    Lv.5
    2024-08-01
    0
    4
    • 默认76832回复Huanghui:

      这个没有什么准则吗,比如输入应该符合什么条件,才能在compile阶段被保留下来。目前看出来的规律是该输入要被量化即需要quant操作

      2024-08-13
      0
    • 遥看瀑布挂前川回复默认76832:

      trace的时候这些输入有被使用到吗?

      2024-08-13
      0
    • 默认76832回复遥看瀑布挂前川:

      是的,有使用到。。目前是这样的,这些输入用Numpy转成Ndarray形式它能过编译但是会显示上面输入被删了。但如果是给这些输入加quant操作,就能在编译后能保留。就想知道是为什么。

      2024-08-15
      0
    • OpenExplorer回复默认76832:

      如果有用到,就必须要做量化,否则是不能在板端做部署的。

      2024-08-15
      0
  • kotei左文亮
    Lv.3

    问题已经关注,请稍等。

    2024-07-15
    0
    3
    • 默认76832回复kotei左文亮:

      好滴,期待解答

      2024-07-15
      0
    • 默认76832回复kotei左文亮:

      是不是,要想保持最后带输入,必须这些输入也得量化

      2024-07-16
      0
    • kotei左文亮回复默认76832:

      这个还不确定,也有人遇到同样的问题,我们去请教了更专业的人。稍后才能确定。

      2024-07-17
      0