模型部署时报错

cbeibieq20小时前

利用j6工具链部署时报错

../../hbdk/lib/transforms/codegenpass/tiling.cpp:867: in function 'runtiling': assert: !allocresult && "l1m allocation cannot fail in codegen replaying"
illegal instruction (core dumped)
这是什么原因🧐

算法工具链

技术深度解析征程6

0/1000

Huanghui
Lv.5
你好，请问这个错误是在什么情况下报出的，可以简单描述一下你所处的环境和所执行的活动吗？
19小时前
0
7
- cbeibieq回复Huanghui:
  compile编译的时候，是不是内存不够导致的？
  18小时前
  0
  回复
- Huanghui回复cbeibieq:
  就是说，你是在x86的docker进行模型编译然后报的这个错误是吧，走的PTQ链路吗？可以分享一下你的onnx，我这边也做一下编译试试，如果我这边OK的，那就是环境问题。这个也是最快的验证方法了
  17小时前
  0
  回复
- Huanghui回复cbeibieq:
  a3是啥？
  16小时前
  0
  回复
- cbeibieq回复Huanghui:
  额，所以这个问题是啥呢
  16小时前
  0
  回复
- Huanghui回复cbeibieq:
  还是需要先了解你的使用环境，才能具体定位问题，从目前你给到的信息还无法判断工具链的使用流程是不是对的，避免错误的排查方向。工具链的正确使用如下，这个你还得麻烦你先确定一下：
  1. 在X86架构的ubuntu22.04系统上通过docker使用工具链。
  2. 在docker容器中，工具链中的PTQ示例可以正常完成校准数据准备、模型量化和编辑
  3. 自己的模型跟PTQ示例一样，也是在docker容器中进行编译是报的错。
  4. 初步看这个错误（ illegal instruction）不像是常规内存不足问题，更像是编译环境 CPU 指令集的问题。可以麻烦在编译环境下执行以下命令确认一下吗：
  16小时前
  0
  回复
- Huanghui回复cbeibieq:
  另外，你说a3上是OK的，也麻烦说一下a3这台机器的系统和 CPU 信息哈？
  16小时前
  0
  回复
- Huanghui回复cbeibieq:
  好的，不同芯片和工具链的硬件约束和设计有差异这个是正常的，我们还是回到地平线工具链上。我上面说的使用环境的正常性确认还是需要你确认double check的。我们会尽量通过报错和环境定位问题，如果信息不足，还是需要提供更多数据（比如模型）用于问题复现和排查的哈。
  14小时前
  0
  回复