登录社区云,与社区用户共同成长
邀请您加入社区
昇思 MindSpore 对 ONNX 提供双向迁移能力:既支持将 MindSpore 模型导出为 ONNX 格式用于跨框架部署,也支持将第三方 ONNX 模型(如 PyTorch/TensorFlow)迁移至 MindSpore,依托MindConverter、export 接口、ONNX Runtime 校验构建全链路工具链,保障转换精度与性能,是大模型跨框架迁移、昇腾部署的核心流程。
随着人工智能技术的快速发展,深度学习框架与硬件加速器之间的适配成为关键技术挑战。TensorFlow 作为主流的深度学习框架,其计算图表示形式 GraphDef 与昇腾 CANN(Compute Architecture for Neural Networks)算子体系之间存在显著的语义差异。本文深入解析 TensorFlow 框架适配层的核心机制,详细阐述从 TensorFlow GraphDe
写给新手的 tensorflow:昇腾 TensorFlow 适配到底是啥?
CANN TensorFlow适配器:当tf.matmul跑在昇腾NPU上时在底层发生了什么
之前有个项目用的是TensorFlow 1.x的代码,想迁到昇腾NPU上跑。发现CANN有TensorFlow的适配层,改几行代码就能用上NPU。这篇文章就来讲讲这个适配层的实现原理和使用方法。
本文介绍了TensorFlow框架适配昇腾NPU的技术实现方案。适配层主要由三个核心模块组成: op_kernel注册模块:通过为每个CANN支持的算子编写OpKernel实现,将TF算子映射到CANN算子库。与PyTorch的dispatcher机制不同,TensorFlow需要显式注册每个算子。 graph_rewrite模块:通过自定义图优化Pass实现算子融合,将连续算子组合成CANN融合
CANN opbase 仓库拆解:所有昇腾算子的“地基”长什么样
需实现public:// 调用 Ascend C RoPE Kernel// 注册RoPE,1,Ascend C 不仅是华为的技术工具,更是中国 AI 基础软件生态的关键拼图。通过与主流框架深度集成,它让广大开发者无需“推倒重来”,即可在昇腾平台上释放极致性能。无论是学术研究还是工业落地,掌握 Ascend C 集成之道,都将成为您在 AI 时代的核心优势。行动号召:立即尝试将您的 PyTorch
小智AI音箱:智能语音交互的未来之选
昇腾AI全栈技术是华为基于自研芯片构建的完整AI解决方案,涵盖硬件、芯片、计算架构和开发框架。其核心包括昇腾处理器(采用达芬奇3D架构,支持多种精度计算)、CANN异构计算架构(实现多框架接口统一和40%性能提升)以及MindSpore框架(支持自动并行和轻量化部署)。该技术已成功应用于计算机视觉、NLP和科学计算等领域,如在医疗影像分析中实现50ms延迟的CT检测,以及千亿参数风控模型训练效率提
摘要:本文详细介绍了如何将开源大模型Qwen-7B快速适配到华为昇腾CANN架构的全流程。通过使用昇腾官方提供的适配仓,开发者可跳过底层算子适配环节,实现模型"即拿即用"。文章从环境配置、权重转换、模型编译到推理执行,逐步演示了适配过程,并验证了CANN优化效果:推理速度提升6.3倍,显存占用减少34.2%,同时保持生成质量。实验基于华为云ModelArts和昇腾910B芯片,
CANN(Compute Architecture for Neural Network)作为昇腾 AI 计算平台的核心底层架构,通过定义神经网络计算的 “软硬件协同规则”,构建了从应用接入到硬件执行的全链路优化体系。深入理解其逻辑架构,是开发者充分释放昇腾芯片算力、打造高效 AI 应用的关键。本文将从分层设计视角,系统拆解 CANN 的核心组件与运行机制,并补充实操代码示例。一、应用层:全场景兼