专栏算法工具链如何获得反量化层的具体参数？

如何获得反量化层的具体参数？

已解决
Tiansheng2024-06-04
65
4

我这边在使用oe v1.1.68转换了模型在J5上运行，发现他的Dequantize层运行在CPU上，并且速度十分缓慢。我想要把这个反量化用DSP来实现。

请问我要如何获得我得到的.bin模型文件反量化计算的详细参数和计算方法呢？

算法工具链
征程5
评论4
0/1000
  • kotei左文亮
    Lv.3

    意思是后面的反量算子里的具体计算操作要在DSP上进行运算是吧？

    2024-06-04
    0
    0
  • Tiansheng
    Lv.1

    是的，想要把DSP的dequantize的实现替代现在的dequantize的算子，但是不知道具体该怎么实现，并且需要传入的参数具体数值也不知道。

    2024-06-04
    0
    0
  • kotei左文亮
    Lv.3

    DSP开发这块具体的步骤和流程可以参考OE工具链里的文档

    2024-06-04
    0
    0
  • kotei左文亮
    Lv.3

    由于您长时间未回复，此贴就先关闭了。

    2024-06-13
    0
    0