专栏算法工具链2个问题

2个问题

已解决
liuyang2020-11-11
179
3

1. MobileNetV2在X3板端实测2.7ms， 这个对应的整个网络的MAC利用率是多少？

2. 编译选项中“compile_mode”的的两个选项的对于生成的模型区别是什么？ 编译能否指定部分或者全部层使用16bit精度？
算法工具链
评论2
0/1000
  • 芯链情报局
    Lv.4

    1) 模型编译完成后，会在当前路径下生成 model_output 目录，里面除了产出的模型，还有有一个 json 和 html 性能指标文件，内涵 MAC 利用率，可以作为参考。

    2）"compile_mode" 作为一个编译器参数，用于制定编译时是以带宽为优先，还是以 latency 为优先。

    大部分情况下，模型以 latency 编译为优先。

    2020-11-11
    0
    1
    • liuyang回复芯链情报局:

      对于第一个问题，如果按照单核2.5T计算的话， 2.7ms的网络对应的整个网络的MAC利用率是多少？我希望和你们放出来的参考性能做一下对比。谢谢

      2020-11-12
      0
  • 芯链情报局
    Lv.4

    3）我们的 BPU 芯片是 8比特的加速器，暂时不支持 16bit。

    2020-11-11
    0
    0