专栏算法工具链PTQ量化，时间超过12小时未完成，未失败

PTQ量化，时间超过12小时未完成，未失败

已解决
皮卡丘2024-10-29
74
9

1. 芯片型号：J6

2. 天工开物开发包 OpenExplorer 版本：j6_v3.0.22

3. 问题定位：模型转换

4. 问题具体描述：hb_compile --config config.yaml (yaml见附件)

执行量化命令后，已经过去超过了12个小时，一直在编译阶段，未失败，未完成。

附件:
算法工具链
征程6技术深度解析
评论4
0/1000
  • Huanghui
    Lv.5

    当前的日志等信息保存一份，重启编译过程看问题是否稳定复现，还有就是原始的DOCKER环境是否有个跟新啥的，比如替换某个WHL

    2024-10-29
    0
    5
    • 皮卡丘回复Huanghui:

      问题稳定复现。未采用docker环境，使用conda安装的whl

      2024-10-29
      0
    • Huanghui回复皮卡丘:

      收到，那我复现一下看看，稍后回复你哈，确认一下yaml，模型，校准数据集是否都已分享哈，如果数据集比较大，我会跳过校准过程，对于编译过程验证SKIP不影响验证

      2024-10-29
      0
    • 皮卡丘回复Huanghui:

      确认模型、yaml已分享，采用skip跳过数据集。感谢。

      2024-10-29
      0
    • Huanghui回复皮卡丘:

      你好，我在docker环境使用通过fash-perf进行的编译复现，从复现结果看因为该模型比较大，所以编译时间比较长，但是编译过程是正常的，如下为编译过程日志和结果。同时，编译慢的问题也会反馈到研发测以期待进一步的改善，感谢理解支持。

      链接: https://pan.baidu.com/s/1rNeavhJFd8wmdEP_MGR3hQ 提取码: 2nsv

      2024-10-30
      0
    • 皮卡丘回复Huanghui:

      我理解了，非常感谢您的工作

      2024-10-30
      0
  • Huanghui
    Lv.5

    收到

    2024-10-29
    0
    0
  • 皮卡丘
    Lv.2

    模型文件见网盘：

    通过网盘分享的文件：VAD.onnx

    链接: https://pan.baidu.com/s/1dKEm-Ke-WkLE-pSbk9ow0Q?pwd=3455 提取码: 3455 

    --来自百度网盘超级会员v4的分享

    2024-10-29
    0
    0
  • 皮卡丘
    Lv.2
    2024-10-29
    0
    0