登录社区云，与社区用户共同成长
邀请您加入社区
在将多模态OCR业务从GPU迁移至昇腾NPU的过程中，由于硬件架构的差异，原有推理链路在性能和资源管理方面出现了新的瓶颈。本文基于一套五层架构的文档解析系统，详细记录了在昇腾NPU环境下的性能调优过程，涵盖推理调用结构重组、并发模型重构以及底层内存分配策略调整。通过一系列优化，最终在单卡单进程场景下实现了显著的性能提升和资源优化。该文档解析系统采用流水线架构，核心功能是对PDF或图片进行版面分析，
在昇腾NPU上进行模型推理部署时，通常需要将训练框架导出的ONNX模型转换为昇腾专用的OM模型格式。然而，在实际的模型转换过程中，开发者经常会遇到ATC（Ascend Tensor Compiler）工具报错导致转换失败的情况。本文基于实际项目经验，系统总结了ONNX转OM失败的常见问题及定位思路，为开发者提供实用的排查指南。基础排查：首先检查错误码，排除工具使用问题深度调试：生成DEBUG日志和
【代码】昇腾 CL 和 MindSpore 助力 ResNet50 推理。
