专栏算法工具链ptq上板报错,Greater算子init fail

ptq上板报错,Greater算子init fail

已解决
默认360962024-03-08
50
4

1. 芯片型号:J5

2. 天工开物开发包 OpenExplorer 版本: J5_OE_1.1.57

3. 问题定位:PTQ板端部署

4. 问题具体描述:

hrt_model_exec 报错如下:

[E][DNN][exec_plan.cpp](946690387388) layer /model/pts_bbox_head/transformer/decoder/Greater init failed

E0101: 23266 main.cpp:316 hbDNNInitializeFromFiles failded, error code:-6000002

对应python代码:

valid_mask = ((sample_points[..., 2:3]> 0.05) \

    & (sample_points[..., 1:2] > 0.0)

    & (sample_points[..., 1:2] < 1.0)

    & (sample_points[..., 0:1] > 0.0)

    & (sample_points[..., 0:1] < 1.0)

  )

模型权重是随机初始化的

算法工具链
征程5
评论2
0/1000
  • kotei左文亮
    Lv.3

    这个是模型初始化加载失败了吧,先确认模型有没有问题,然后再看加载路径有没有问题。

    2024-03-08
    0
    2
    • 默认36096回复kotei左文亮:

      把对应的python语句注释掉是能正常编译上板运行的

      2024-03-08
      0
    • 默认36096回复kotei左文亮:

      将>替换成>=后变成And算子报错,同样是init fail

      2024-03-08
      0
  • kotei左文亮
    Lv.3

    方便提供完成的代码和模型吗? 或者 就使用不报错的代码运行 ,进行下一步操作,然后再看结果有没有啥影响。

    2024-03-08
    0
    0