专栏算法工具链J5模型量化报Segmentation fault (core dumped)

J5模型量化报Segmentation fault (core dumped)

已解决

MAN2025-09-10

58

0

0

10

1. 芯片型号：J5

2. 天工开物开发包 OpenExplorer 版本：J5_OE_v1.1.62

3. 问题定位：模型量化

4. 问题具体描述：选择max 0.99999 量化算法，开启per_channel后模型量化报Segmentation fault (core dumped)

算法工具链

征程5

评论3

0/1000

费小财
Lv.5
用gdb看下coredump的位置？
2025-09-10
0
0
沃德菲
Lv.3
在/log/coredump目录看下相关文件，然后bt看下出问题的栈信息
2025-09-10
0
7
- 费小财回复沃德菲:
  对，再找到执行的bin文件就行
  2025-09-10
  0
  回复
- MAN回复沃德菲:
  2025-09-10
  0
  回复
- 沃德菲回复MAN:
  死在/horizon_onnx/onnx_cpp2py_export.so了，检查下是不是传递的参数不合法
  2025-09-12
  0
  回复
- 费小财回复MAN:
  使用上是否有啥改动的
  2025-09-16
  0
  回复
- MAN回复费小财:
  没有改动，这是我的配置文件
  2025-10-14
  0
  回复
- 费小财回复MAN:
  选择其他的量化算法有没有问题？
  2025-10-15
  0
  回复
- MAN回复费小财:
  别的量化算法都没有问题
  2025-10-15
  0
  回复
Huanghui
Lv.5
1. 为啥强调“max 0.99999 量化算法，开启per_channel后”呢，其它的组合策略没有问题?
2. segment的错误有些时候是因为内存需求过大引起的，换一个好点的服务器编译试试。
3. 试试'skip'的 calibration_type 跳过校准过程看是否还有问题呢
3. 如果还是有问题，可以分享你的onnx和配置文件，我们可以在本地验证和问题处理。
2025-10-15
0
0

0博客

1帖子

0回答