专栏算法工具链calibration验证部分数据报错

calibration验证部分数据报错

已解决
默认328322024-08-22
46
2

J5 J5_OE_1.1.74

在进行calibration的验证阶段,以及qat模型部署的模型检查部分,遇到了相同的问题如下图所示

运行到第151行进入验证时,出现数据属性缺失问题,如下:

调用保存好的calib_model与我们自己算法适配的dataloader以后,在运行函数validation_step处,出现数据组data(同Batch)的dtype属性缺失,data内部属性如下

该属性在原代码(本机训练调试)中同样不存在,因为data是一个组,其中包含许多变量及其对应的值,而每一个变量都对应有其dtype,数据组data则无法定义其dtype。但原代码可以正常运行。此处报错指出dtype缺失,且该属性无法手动定义。

请问这样的问题是与calib_model的生成逻辑,接收参数格式等有关吗?此类问题该如何解决?

算法工具链
技术深度解析征程5
评论2
0/1000
  • Pipeline
    Lv.2

    建议变量拆开分别传入试试呢

    2024-08-22
    0
    0
  • 遥看瀑布挂前川
    Lv.2

    qtensor才有dtype,没有被量化?

    2024-08-22
    0
    0