专栏算法工具链浮点模型转换问题

浮点模型转换问题

已解决
BrokenDusk2021-07-06
128
3

利用hb_mapper makertbin进行浮点模型转换时，能否强制所有算子均运行在cpu上？

算法工具链
评论3
0/1000
  • admin
    Lv.1

    BrokenDusk用户您好，您这么做的理由是？我们的工具链开发目的就是为了使用bpu打造的

    2021-07-07
    0
    0
  • 芯链情报局
    Lv.4

    你好，这个是不支持的，因为模型转换的基本逻辑是要走校准量化阶段的，如果都是 CPU 运行的话，模型中是没有可量化节点的。

    而且纯 CPU 实现的话，其实走浮点转换工具链也就没有任何意义了。

    2021-07-07
    0
    0
  • BrokenDusk
    Lv.1

    转换后精度损失严重。那有没有设置可以指定只将一部分算子运行在bpu上？或者不经过转换的模型能否在板子上运行？

    2021-07-07
    0
    0