专栏算法工具链结构化稀疏支持能力

结构化稀疏支持能力

已解决
默认411522024-10-16
46
3

用户您好，请详细描述您所遇到的问题，详细的描述有助于帮助我们快速定位，解决问题~Thanks♪(･ω･)ﾉ

1. 芯片型号：J5/J6E

2. 天工开物开发包 OpenExplorer 版本：NA

3. 问题定位：硬件对稀疏网络的支持

4. 问题具体描述：

想问下，J5和J6E中有类似于Nvidia 2:4的稀疏网络的硬件支持能力么？

想问下如果做了类似的权重稀疏，能在硬件上取得收益么？

算法工具链
征程5征程6
评论1
0/1000
  • Huanghui
    Lv.5

    你好，目前了解到的信息权重稀疏在运行时是支持的，但是目前没有提供模型的网络稀疏修改工具，你可以使用其他公开的稀疏化工具完成模型稀疏后尝试测试，感谢你的理解和支持。

    2024-10-16
    0
    2
    • 默认41152回复Huanghui:

      您好 麻烦问下 您这里提到的支持是只可运行，还是说能拿到稀疏计算带来的收益


      2024-10-17
      0
    • Huanghui回复默认41152:

      是否可以拿到收益不能一概而论，部分模型是有一定收益的，与模型结构有关，同时与稀疏化策略及稀疏率也有关，以测试结果为主吧

      2024-10-17
      0