专栏算法工具链UCP的FFT2D结果不正确

UCP的FFT2D结果不正确

已解决
Tiansheng2024-11-28
158
12

我在天准的J6上遇到使用UCP的hbFFT2D的API,得到的结果不正确的情况。

OE版本为3.0.22

我这边测试使用输入全为1的16x16的输入,无法得到正确的2D FFT结果。结果会出现

  1. 和正确2D FFT结果不一样,第一行第一个数据为31,其他每行的第一个数据位16

  2. 第一行的第二列第三列第四列会出现多次计算不一致的情况,有时候是0有时候是240有时候是271。

请问这种情况是什么原因导致的?你们是否也会有相同的情况?

算法工具链
征程6DSP
+1
评论9
0/1000
  • Huanghui
    Lv.5

    你好,目前这个问题已经修复(已验证),你可以:

    方法一: 直接申请3.0.27版本的工具链,其中对问题进行了修复。

    方法二: 在3.0.22上使用链接: https://pan.baidu.com/s/1RFRpJI0OO1v8MBDLs5Wi9w?pwd=8m9i中的文件替换hpl_samples/script/aarch64/bin/image/目录下的vdsp0

    2024-12-10
    2
    0
  • kotei左文亮
    Lv.3

    问题收到

    2024-11-28
    0
    0
  • kotei左文亮
    Lv.3

    函数返回值是不是“0”, 输入的虚数数据和算子参数都检查过了没?

    2024-11-28
    0
    0
  • Tiansheng
    Lv.1

    返回值是0,我这边测试了1D FFT结果是正确的,但是2D FFT结果不对

    2024-11-28
    0
    0
  • Tiansheng
    Lv.1
    2024-11-28
    0
    0
  • Tiansheng
    Lv.1
    2024-11-28
    0
    0
  • kotei左文亮
    Lv.3

    是如何判断 1D FFT结果是正确的啊? hbFFT2DParam 和hbIFFParam类型是不一样的,这个有确认吗

    2024-11-28
    0
    0
  • Tiansheng
    Lv.1

    我是说我测试了1D FFT的结果,和python np.fft的结果比较了是一致的。但是2D FFT的结果是不一致的。

    参数类型是不一样的,你可以看到前面留言里我的截图,我使用的是2d fft的参数,nx ny都是point_size_16

    2024-11-28
    0
    1
    • kotei左文亮回复Tiansheng:

      OK

      2024-11-28
      0
  • 默认32352
    Lv.1

    关于这个问题,地平线这边有更新吗?

    2024-12-05
    0
    2
    • kotei左文亮回复默认32352:

      已经请教了更专业的人,可能是一个系统bug,具体情况还没有确认。这个问题对您的工作项目影响大不大啊?

      2024-12-05
      0
    • 默认32352回复kotei左文亮:

      谢谢回复,如果确认是系统bug,请帮忙估算下修复时间,我们也只能先搁置对2D FFT的调用。

      2024-12-05
      0