专栏算法工具链J6编译生成hbr hbm模型报错

J6编译生成hbr hbm模型报错

thui2026-06-05
48
2
芯片J6M,使用cat_filter为FCOSMultiStrideCatFilter"后报错RuntimeError:Hbir output shape is different with actual torch output([59136] vs torch.Size([5])),please report a bug to horizon_plugin_pytorch develop team Hbir output 和torch output都是库函数的中间计算结果,之前提问过在https://developer.horizon.auto/forum/13643
我现在的做法是修改 FCOSMultiStrideCatFilter 的实现,具体是filter函数,使其输出一个固定大小的 Tensor,

问题是这里有个hbir_output=hbir.filter(data,idx_range[0],idx_range[1],threshold,maxIndex_type,filterCoord_type)的函数,是不是必须要把它的输出和filter函数输出形状一致,而不必关注hbir.filter的具体逻辑。因为目前hbir.filter输出和输入形状不一致,所以我把hbir.filte删掉了,这里做错了吧

算法工具链
技术深度解析征程6
评论1
0/600
  • HuangHui
    Lv.5
    搞得,太复杂了,这种后处理得东西为啥非要再模型内部搞呢,容易出错难以修改不说,性能也没啥收益呀。搞到模型得外部吧,如此一来世界就清净了~xiaoku_org.svg
    2026-06-05
    0
    1
    • thui回复HuangHui:
      为了更节省啊,这也是设计FCOSMultiStrideCatFilter的初衷吧
      2026-06-06
      0