专栏算法工具链工具链支持transformer的模型量化吗，如vit、cvt之类的？有没成功的例子？

工具链支持transformer的模型量化吗，如vit、cvt之类的？有没成功的例子？

已解决
afc1012022-06-14
154
3

1. 现在你们工具链支持transformer的模型量化吗，如vit、cvt之类的？有没成功的例子？

2. 我在评估测试时，实测的fps帧率数据，且都是单核测试的结果，如mobilenet v1的fps只有320帧左右。但按计划应该与5Tops的算力不对称。 大概是什么原因？

算法工具链
评论1
0/1000
  • 颜值即正义
    Lv.2

    您好：

    1.XJ3暂不支持transformer模型；

    2.地平线秉持的是软硬结合的优化理念，注重解决实际业务场景的问题，对于 mobilenet、efficientnet 这种包含 depthwise conv 的轻量型模型做了针对性的优化，BPU双核打满的话mobilenetv1可达到 655fps，mobilenetv2 886fps，efficienet-lite0 954fps。

    2022-06-16
    4
    2
    • hongjingdong回复颜值即正义:

      你好，我有个疑问，就是mobilenetv2的ops实际不足1G，及时有886fps的帧率，也远没有达到5T的算力，请问是什么原因限制的呢？

      2022-12-05
      1
    • 颜值即正义回复hongjingdong:

      你好，FPS的影响因素有很多哈，比如模型的计算量、参数量、访存量、内存占用等，计算平台的算力、带宽等，针对计算密集型和带宽密集型的算力，资源利用率也会有区别。

      此外，性能还会受到系统环境、软件实现等诸多因素的影响，例如在硬件计算架构不同的情况下，只优化工具链，在J5的FPS表现依旧会有很大的提升。
      2022-12-05
      6