专栏算法工具链结构化稀疏支持能力

结构化稀疏支持能力

已解决
默认411522024-10-16
46
3

用户您好,请详细描述您所遇到的问题,详细的描述有助于帮助我们快速定位,解决问题~Thanks♪(・ω・)ノ

1. 芯片型号:J5/J6E

2. 天工开物开发包 OpenExplorer 版本:NA

3. 问题定位:硬件对稀疏网络的支持

4. 问题具体描述:

想问下,J5和J6E中有类似于Nvidia 2:4的稀疏网络的硬件支持能力么?

想问下如果做了类似的权重稀疏,能在硬件上取得收益么?

算法工具链
征程5征程6
评论1
0/1000
  • Huanghui
    Lv.5

    你好,目前了解到的信息权重稀疏在运行时是支持的,但是目前没有提供模型的网络稀疏修改工具,你可以使用其他公开的稀疏化工具完成模型稀疏后尝试测试,感谢你的理解和支持。

    2024-10-16
    0
    2
    • 默认41152回复Huanghui:

      您好 麻烦问下 您这里提到的支持是只可运行,还是说能拿到稀疏计算带来的收益


      2024-10-17
      0
    • Huanghui回复默认41152:

      是否可以拿到收益不能一概而论,部分模型是有一定收益的,与模型结构有关,同时与稀疏化策略及稀疏率也有关,以测试结果为主吧

      2024-10-17
      0