专栏算法工具链J3/J5 双核BPU验证机理

J3/J5 双核BPU验证机理

已解决
XNHM2023-05-25
82
1

请问,J3/J5 双核的BPU在结果输出时是如何做验证,两个核是跑一样的模型还是不同的呢?BPU里做的工作我能理解是做了语义分割和目标物识别,那结果给到CPU,在CPU 里主要完成什么样的工作呢?

算法工具链
征程3征程5
评论1
0/1000
  • 颜值即正义
    Lv.2

    你好,今天看到了这个帖子,我这边从工具链角度来答复一下这个问题。

    J3/J5都是双核的,主要用于多任务场景,例如并发处理多个摄像头的数据、一个计算平台上并发处理多个任务。以J5为例,目前只支持编译单核模型,也就是同一时间,该模型只能在一个核上跑,J3上支持编译双核模型,这是把模型在编译器层面进行的拆分,用户层面不感知。

    关于BPU与CPU的区别,简单来说,BPU是加速核,主要处理的是int8/int16等量化后的数据,CPU处理float类型的数据,比如有些算子BPU不支持或精度不符合预期,此时我们就可以使用CPU来运行该算子,并不是把场景细化到某个计算核上。

    2023-07-31
    2
    0