J6M芯片 12G 128TOPS
问题描述:板端free命令查看,只有7G的内存可以用,板端规格说明是12G。经和供应商沟通,说BPU预留了5个G。
问题: 在单块J6M上, 我可以部署多少大小的模型,假设没有其他的占用,模型是否可以完全使用到12G。


J6M芯片 12G 128TOPS
问题描述:板端free命令查看,只有7G的内存可以用,板端规格说明是12G。经和供应商沟通,说BPU预留了5个G。
问题: 在单块J6M上, 我可以部署多少大小的模型,假设没有其他的占用,模型是否可以完全使用到12G。


