如何在J6系列芯片部署LLM/VLM等大模型,未来能否支持flash-attn
J6 芯片已经能够支持LLM/VLM等大模型的部署,与行业内对大模型的支持模式类似,地平线提供一套大模型工具链来实现大模型的部署,请联系对接地平线的项目对接人可获得更多的技术支持