专栏算法工具链J6_x86下hbm推理code_dumper

J6_x86下hbm推理code_dumper

已解决
默认980482024-09-13
121
3

用户您好,请详细描述您所遇到的问题,详细的描述有助于帮助我们快速定位,解决问题~Thanks♪(・ω・)ノ

1. 芯片型号:J6

2. 天工开物开发包 OpenExplorer 版本:horizon_j6_open_explorer_v3.0.17-py310_20240705

3. 问题定位:板端部署

4. 问题具体描述:hbm在x86上推理会code dumper

  1. 首先使用remove_node_type: "Dequantize"的配置项PTQ生成hbm, 可以正常推理,仅是推理结果异常,怀疑是反量化导致的精度问题

  2. 尝试不使用remove_node_type: "Dequantize" PTQ量化生成hbm后,进行推理时会打印 bpu_core_get_est_time not implemented in simulator,随后code dumper
算法工具链
征程6
评论2
0/1000
  • Pipeline
    Lv.2

    删除反量推理结果异常是什么表现


    2024-09-13
    0
    1
    • 默认98048回复Pipeline:

      bc模型的输出,和hbm的输出结果打印对比相差很大(数量级)

      2024-09-13
      0
  • Huanghui
    Lv.5

    鉴于该问题持续时间较长,且目前工具链版本已迭代到一个新的版本, 若问题依然存在,可使用新的工具链进行尝试并通过新的帖子加以跟踪,感谢理解支持。

    2025-02-05
    0
    0