专栏算法工具链PTQ校准数据集问题

PTQ校准数据集问题

已解决
默认696002025-11-07
61
2
问题描述:目前已经得到了浮点ONNX模型,使用 hb_config_generator --full-yaml --model model.onnx --march nash-m  指令获得了配置文件,配置文件里input输入有8个,请问对应的PTQ校准数据集也要处理为对应格式的8个npy文件吗

 

以下是指令生成的yaml文件内容:

calibration_parameters:
  cal_data_dir: ./calibration_data_dir/jiaozhun
compiler_parameters:
  advice: 0
  balance_factor: 0
  cache_mode: disable
  cache_path: ''
  compile_mode: latency
  core_num: 1
  debug: true
  jobs: 16
  max_time_per_fc: 0
  optimize_level: O2
input_parameters:
  input_layout_train: NCHW;NCHW;NCHW;NCHW;NCHW;NCHW;NCHW;NCHW
  input_name: onnx::Shape_0;onnx::Div_3;projection_mat;image_wh;onnx::Gather_7;temp_instance_feature;x.465;onnx::Add_12
  input_shape: 1x6x3x256x704;1;1x6x4x4;1x6x2;1x600x11;1x600x256;1x33x40;1x33x256
  input_type_rt: featuremap;featuremap;featuremap;featuremap;featuremap;featuremap;featuremap;featuremap
  input_type_train: featuremap;featuremap;featuremap;featuremap;featuremap;featuremap;featuremap;featuremap
  mean_value: ''
  scale_value: ''
  separate_batch: false
  std_value: ''
model_parameters:
  debug_mode: ''
  march: nash-m
  onnx_model: onnx/test1018.onnx
  output_model_file_prefix: test1018
  output_nodes: ''
  remove_node_name: ''
  remove_node_type: ''
  working_dir: ./ptq_model_output

 

 

 

模型训练时使用的数据集为nuscene数据集

 

 

 

算法工具链
征程6
评论2
0/1000
  • Vincent
    Lv.4

    是的,输入头有八个,每个头单独的一个校准集,所以也要准备8个校准集,按顺序写到 cal_data_dir 这里就可以

    2025-11-07
    1
    0
  • DR_KAN
    Lv.4

    不是八个npy文件,是校准数据文件夹里还要建八个文件夹,然后每个文件夹放相同数量的npy文件,你可以每个文件夹都放一个,但是不能把八个npy都放一个文件夹里

    2025-11-07
    1
    0