c++ runtime 后处理代码的绘制图片代码耗时太长

XSXXH2023-09-21

1.芯片型号：J5等

2.天工开物开发包OpenExplorer版本J5_OE_1.1.62

3.问题定位：板端c++ runtime 后处理耗时问题

4.问题具体描述：我在部署模型的c++ runtime时，后处理延时较大，在docker x86cpu环境下后处理延时为大约17.6ms左右，于是我删除了后处理中的绘制结果图片的代码，在docker x86cpu中运行延时降低为0.07ms左右.

原本的延时

于是我删除了后处理函数的这段代码： Mat drawimg = src_img.clone();

for (auto& line : line_list)

{

for (auto& p : line)

{

circle(drawimg, p, 3, Scalar(0, 255, 0), -1);

}

imwrite("result.jpg", drawimg);

之后在x86 docker中运行延时如下：

为什么对output的绘制结果图片的耗时如此之长，请问如果我删除了绘图代码，我又该如何获得检测结果的可视化，总不能模型部署运行看不到可视化的结果把，但是板端绘图时间又太长，我应该怎么既可以获得可视化结果，又避免绘图延时太长的问题

算法工具链

0/1000

颜值即正义
Lv.2
如果您需要可视化数据，可以只把计算结果保存下来，再传到x86上做可视化处理。
2023-09-21
0
5
- XSXXH回复颜值即正义:
  这里保存推理结果的有案例吗，OE包里面代码太多了，都点迷糊了
  2023-09-21
  0
  回复
- 颜值即正义回复XSXXH:
  推理结果就是内存中的一段数据，用常见的C++保存txt的方法就可以，找到输出内存的首地址就可以了。
  2023-09-21
  0
  回复
- XSXXH回复颜值即正义:
  工程师你好，那个下游任务是什么意思？ai_forward_view_samples里的对保存的推理结果进行处理的代码吗，在x86芯片上运行. 但是真实汽车部署模型条件下，车上有x86芯片吗，我没有这方面常识
  2023-09-21
  0
  回复
- 颜值即正义回复XSXXH:
  比如说二阶段的任务，第一阶段需要生成ROI，第二阶段需要基于ROI和某张图片做进一步的推理，这样。
  2023-09-22
  0
  回复
- 颜值即正义回复XSXXH:
  再下游的任务比如说规划控制，可以补一下汽车行业知识。
  2023-09-22
  0
  回复
颜值即正义
Lv.2
您好，芯片设计就不是为了做可视化的，正常来说，上游任务计算出了推理结果，这份推理结果数据直接送给下游任务继续分析就行了，可视化并不是板端推理的必备环节。
OE包的ai_forward_view_sample，具有可视化功能，这个可视化是把板端的推理结果传到x86再做可视化的，并不是在板端实时可视化。
2023-09-21
0
4
- XSXXH回复颜值即正义:
  工程师你好，我懂你意思了，我是菜鸟，第一接触完整的车载芯片的模型部署案例，这种情况下，我对output进行后处理完成以后，下游任务处理推理结果，这里的 “下游任务” 是指什么？我这个c++ runtime模型部署是检测图片，很初级的部署，和实际车载环境部署应该很不同的，
  2023-09-21
  0
  回复
- XSXXH回复颜值即正义:
  因为我想，J5芯片放在汽车上，部署模型推理得到结果，由那个芯片负责下游任务处理这个推理结果，车上应该不会有x86芯片吧，我没有实际车载环境下模型部署全流程这方面常识，只会部署简单的板端c++ runtime检测图片
  2023-09-21
  0
  回复
- 颜值即正义回复XSXXH:
  车载是不需要可视化的，实际情况下可能会有十几个模型一起跑，不可能都可视化对吧~
  2023-09-21
  0
  回复
- XSXXH回复颜值即正义:
  工程师你好，原来是这样，我不懂这个行业常识. 我一直以为是要呈现出可视化结果在屏幕上，可视化结果应该是用于研究性实验性的验证，车载需要得到模型推理出来的结果后，后面是做什么呢，简单点说
  2023-09-21
  0
  回复