1.芯片型号:J3
3.天工开物开发包OpenExplorer版本:J3_OE_1.16.4
4.问题定位:模型转换--量化后性能问题
5.问题具体描述:按照官方文档描述,quantized模型已经完成了量化,与最后的bin模型具有一致的精度效果,但我这边通过 quantized模型和bin模型可视化效果对比,两者分割效果上还是有一定差距,并且 quantized模型 分割效果边缘没有毛刺, bin模型 分割效果边缘有毛刺(边缘处有很小的点状),具体如下图所示,左边是 quantized模型 效果,右边是 bin模型 板端跑出来的结果:

我这边量化后的节点相似度我也做了截图,具体如下,框出来的都是相似度低于95%的:




麻烦您这边指导下如何修改使的模型效果更好,谢谢,期待您的回复!
3.天工开物开发包OpenExplorer版本:J3_OE_1.16.4
4.问题定位:模型转换--量化后性能问题
5.问题具体描述:按照官方文档描述,quantized模型已经完成了量化,与最后的bin模型具有一致的精度效果,但我这边通过 quantized模型和bin模型可视化效果对比,两者分割效果上还是有一定差距,并且 quantized模型 分割效果边缘没有毛刺, bin模型 分割效果边缘有毛刺(边缘处有很小的点状),具体如下图所示,左边是 quantized模型 效果,右边是 bin模型 板端跑出来的结果:

我这边量化后的节点相似度我也做了截图,具体如下,框出来的都是相似度低于95%的:




麻烦您这边指导下如何修改使的模型效果更好,谢谢,期待您的回复!

