专栏算法工具链bc模型可视化推理

bc模型可视化推理

已解决
老超20242024-10-15
153
9

您好，~Thanks♪(･ω･)ﾉ

1. 芯片型号：J6E

2. 天工开物开发包 OpenExplorer 版本：V3.0.22

3. 问题定位：bc模型推理

4. 问题具体描述：使用PTQ量化后得到的bc模型，在使用samples/ai_toolchain/horizon_model_train_sample/scripts/tools/infer_hbir.py脚本进行可视化推理时存在以下报错：

请问该问题是否跟PTQ量化的yaml文件配置相关？yaml文件及bc模型见附件。

附件:
算法工具链
征程6
评论2
0/1000
  • Huanghui
    Lv.5

    收到，我们先复现一下这个问题

    2024-10-15
    0
    4
    • 老超2024回复Huanghui:

      您好，我这边debug发现使用OE包中提供的bc模型，load后的模型信息如下：

      但是使用自己PTQ转换出来的bc模型，load后的模型信息如下：

      其中 model.function[0].internal_desc = None，是导致本次报错的主要原因。请问导致该字段值为None的原因有哪些？
      2024-10-16
      0
    • 老超2024回复Huanghui:

      您好，请问有复现到这个问题吗？

      2024-10-17
      0
    • Huanghui回复老超2024:

      你好，我们正在安排处理，回尽快给您答复！

      2024-10-17
      0
    • 老超2024回复Huanghui:

      好的，谢谢

      2024-10-17
      0
  • Huanghui
    Lv.5

    你好，你的模型量化走的是PTQ流程，为什么推理会使用QAT流程的工具呢，请参考/open_explorer/samples/ai_toolchain/horizon_model_convert_sample/04_detection/08_yolov4/04_inference.sh中的逻辑进行推理测试呢

    2024-10-17
    0
    3
    • 老超2024回复Huanghui:

      哦哦，原来samples/ai_toolchain/horizon_model_train_sample/scripts/tools/infer_hbir.py这个可视化推理脚本仅适用QAT转换的bc模型。以为该脚本针对定点模型都适用呢。

      2024-10-17
      0
    • Huanghui回复老超2024:
      可以这样说吧，你用推理吧！
      2024-10-17
      0
    • 老超2024回复Huanghui:

      好的，谢谢

      2024-10-17
      0