模型在板上预测时能否实现内存共享？

您好

从芯片架构上来说，CPU和BPU(模型加速器)之间是共享内存的，但是CPU层面是有Cache，而BPU输入是没有Cache，会有一次Cache Flush操作。

关于你这边提到针对不同的输入大小，是在模型转换环节将模型编译成不同输入的尺寸模型？原理上我们尺寸不一一样，计算开销肯定会不一样，在模型转换的model_output目录里面有一个静态perf信息，可以查看编译后模型的有效计算量和预期的延迟信息，可以和你这边上板数据做一个对比，来判断上述上板性能的一致性。