专栏算法工具链hb_compile 如何支持只做 ”模型量化和模型编译“，跳过前面的calibration过程

hb_compile 如何支持只做 ”模型量化和模型编译“，跳过前面的calibration过程

2008032026-07-10
89
4

calibrate model 成功后Killed了，模型量化和编译没有做，如果直接对calibrate model 进行模型量化和编译。

2026-07-09 23:41:21,303 INFO End to calibrate the model.

2026-07-09 23:41:22,684 INFO Saving model to: /open_explorer/sparse_e2e/model_output/sparse_e2e_perception_op19_calibrated_model.onnx.

2026-07-09 23:41:22,684 INFO Start to quantize the model.

2026-07-09 23:41:47,577 INFO End to quantize the model.

2026-07-09 23:41:48,860 INFO Saving model to: /open_explorer/sparse_e2e/model_output/sparse_e2e_perception_op19_ptq_model.onnx.

Killed

算法工具链
技术深度解析征程6
评论2
0/600
  • YCJ
    Lv.4

    hb_compile支持quantized.bc转hbm，如果有bc模型，直接传quantized.bc模型即可。没有的话得自己写脚本，用底层提供的接口转。

    2026-07-10
    0
    2
    • 200803回复YCJ:

      没有bc, 只有calibrated_model.onnx 和ptq_model.onnx, 期望在这个基础上转bc 以及hbm

      2026-07-10
      0
    • XZH回复200803:
      您可以通过如下yaml配置文件来跳过calibration，直接传入ptq_model.onnx就能继续编译了：
      model_parameters:

      # 指向已量化的 PTQ ONNX 模型

      onnx_model: "./model_output/sparse_e2e_perception_op19_ptq_model.onnx"

      march: "nash-e"

      working_dir: "./final_compile_output"

      output_model_file_prefix: "sparse_e2e_perception_final"
      # calibration_parameters:

      # 完全注释掉或删除此部分，以确保不触发校准流程。

      2026-07-28
      0
  • HuangHui
    Lv.5

    客户您好，长时间未收到你的答复，相信问题已解。如对此尚存疑问欢迎新帖讨论，感谢您的参与！

    2026-08-05
    0
    0