专栏算法工具链hbm模型编译的一些疑惑

hbm模型编译的一些疑惑

已解决
白菜飘落2023-05-12
50
3

用户您好,请详细描述您所遇到的问题,这会帮助我们快速定位问题~

1.芯片型号:J5
2.天工开物开发包OpenExplorer版本:J5_OE_1.1.29
3.问题定位:模型转换
4.问题具体描述:我使用compile_perf.py编译hbm模型。编译完成后的模型我用hrt_model_exec看下了下模型的输出大小。如下图。我的问题是为什么输出是一摸一样的大小,一个宽被align到了512,一个没有?这个在hat中的代码如何来控制?
算法工具链
征程5
评论1
0/1000
  • 颜值即正义
    Lv.2
    您好,因为这两个输出的数据类型不一样,argmax只支持int8/int16输出(index支持int32),conv支持以int32高精度输出,模型输入输出对齐规则是按字节数来算的,所以和输出的tensor type强相关,具体对齐规则可参考:模型输入输出对齐规则解析 (horizon.ai)
    2023-05-12
    0
    2
    • 白菜飘落回复颜值即正义:

      您好。谢谢解答,理解了。

      2023-05-12
      0
    • 颜值即正义回复白菜飘落:
      2023-05-12
      0