专栏算法工具链j6 oe算法工具链 支持 sparse4d模型转换吗

j6 oe算法工具链 支持 sparse4d模型转换吗

已解决
浮浮浮2025-08-21
197
9

分类:OE工具链

问题:请问sparse4d模型,OE支持该模型的转换吗?使用ptq还是qat?原始浮点模型,在前期开发中需要拼接onnx吗?针对模型第一帧的header和后续连续帧的header不一致的问题,可以提供一下解决思路吗?
算法工具链
技术深度解析
评论4
0/1000
  • 浮浮浮
    Lv.1

    有人吗?

    2025-08-22
    0
    0
  • 浮浮浮
    Lv.1
    麻烦看一下是否正确:
    OE工具链支持 sparse4d 转换。

    地平线的BPU要求输入为单一计算图,不支持运行时动态拼接多个模型。若模型被拆分为多个ONNX文件,工具链无法直接处理。 若需要最终部署板端,需要将预处理、模型主体、后处理等合并为单一ONNX文件,确保OE能识别完整计算流。若模型仅用于调试、验证(如本地推理),无需强制拼接ONNX,可直接用原始框架(如PyTorch、TensorFlow)推理。

    Sparse4D模型第一帧header与后续帧header不一致 ,属于数据预处理逻辑问题。该模型需同时处理两种不同拓扑的输入,onnx要求静态计算图(固定输入维度),需要在模型部署之前通过脚本统一header格式。 可以通过显式传递全零历史帧规避动态维度。
    2025-08-22
    0
    0
  • 浮浮浮
    Lv.1

    sparse4d 转换是不是需要QAT转换方式,ptq方法精度损失较高

    2025-08-22
    0
    4
    • Huanghui回复浮浮浮:

      做了算子敏感度分析吗?有没有将余弦相似度较低算子设置成int16呢

      2025-08-22
      0
    • 浮浮浮回复Huanghui:

      没有做过设置成int16,之前有过相似经验吗?能否分享一下

      2025-08-22
      0
    • Huanghui回复浮浮浮:

      用精度debug工具分析一下,找出来最敏感的几个节点,将其设置成int16试一试,

      2025-08-22
      0
    • Huanghui回复浮浮浮:

      具体的设置过程在OE文档里面PTQ_转换工具里面的hb_compile工具下的quant_config说明里面有

      2025-08-22
      0
  • Huanghui
    Lv.5

    你好,可以将这几个模型发过来吗,我验证下。

    2025-08-22
    0
    1
    • 浮浮浮回复Huanghui:
      不太方便xiaoku_org.svg
      2025-08-22
      0