专栏算法工具链如何进行模型不量化,直接基于原始模型浮点进行模型转换

如何进行模型不量化,直接基于原始模型浮点进行模型转换

已解决
默认506242025-04-18
43
1

模型部署过程中,先不进行量化,验证精度是多少。用hb_compile如何只转换模型,不进行量化。麻烦帮忙解答一下

算法工具链
征程6
评论1
0/1000
  • 默认50624
    Lv.1
    /quant_config.json配置成{ "model_config": { "all_node_type":"float16" } }这样会报错。不配置这个文件可以正常转换。
    2025-04-18
    0
    0