在J6芯片中,TAE主要用于计算gemm类算子(Conv, Linear,Matmul等),单独将TAE空闲时间列出来主要是为了在进行模型性能优化时,可以通过查看TAE空闲时间,调整模型结构,期望让TAE越满越好。
TAE 空闲时间统计的核心价值在于揭示“计算”与“访存/其他计算”之间的不平衡。空闲少 + Computing高:理想状态,计算密集。空闲多 + Load/Store高:带宽瓶颈,需优化内存访问。空闲多 + VPU/CPU高:并行瓶颈,需优化任务调度或算子分配。