专栏算法工具链点云模型ptq量化yaml配置

点云模型ptq量化yaml配置

已解决
默认383362025-04-11
54
4

您好，想问一下点云相关的模型如果用ptq量化方式进行量化的话，yaml文件应该如何配置？我看oe包中给出的都是一些图像相关模型的示例。

算法工具链
征程5
+1
评论4
0/1000
  • Jade-self
    Lv.5
    1. 目前J6 oe包中确实没非图像输入的示例
    2. 点云相关的输入，可以将input_type_rt与 input_type_train配置为 featuremap ，其他参数按需配置。某参数使用若有疑问，可参考用户手册中《训练后量化-PTQ转换工具-hb_compile工具》中相关参数的介绍。
    2025-04-11
    0
    0
  • DR_KAN
    Lv.4

    input_type_train配置为 featuremap，输入数据有前处理的话在送给模型前先做完

    2025-04-11
    0
    0
  • 费小财
    Lv.5

    可以参考https://developer.horizon.auto/blog/10434这个文档，对yaml有配置有详细的介绍的

    2025-04-13
    0
    0
  • Huanghui
    Lv.5
    点云的数据输入类型是featuremap的，你可以使用下面的方式生成，然后根据自己校准数据和量化配置，稍改一下就OK：
    2025-04-14
    0
    0