昇腾（Ascend）系列AI处理器及常用命令全解析

1. 引言：AI算力新引擎

在人工智能浪潮席卷全球的今天，算力已成为驱动AI技术发展的核心动力。华为昇腾（Ascend）系列AI处理器，作为国产AI芯片的杰出代表，正以其强大的计算性能、高效的能效比和开放的生态体系，为AI开发者、研究者和企业提供了坚实可靠的算力底座。

无论是进行大规模模型训练，还是部署高性能推理服务，昇腾系列都能提供从云到端的全栈解决方案。本文将系统性地介绍昇腾系列处理器，并重点梳理在昇腾平台上进行开发、调试和运维的常用命令，助你快速上手。

2. 昇腾（Ascend）系列概览

昇腾系列AI处理器是华为基于达芬奇架构（Da Vinci Architecture）自主研发的AI加速芯片，主要面向AI训练和推理场景。

2.1 主要产品线

• AI芯片‌：如昇腾310（边缘/端侧）、昇腾910系列（云端训练）。
• ‌加速卡/板卡‌：Atlas 300I（推理）、Atlas 300T（训练）等。
• ‌服务器/集群‌：Atlas 800（推理/训练）、Atlas 900（超算集群）。
• ‌边缘设备‌：Atlas 500智能小站、Atlas 200开发者套件。

主要产品介绍：

• 昇腾310（Ascend 310）：面向AI推理场景的高效处理器，功耗低、算力强，广泛应用于边缘计算、端侧设备。

• 昇腾910（Ascend 910）：面向AI训练场景的旗舰产品，算力强大，常用于大规模数据中心进行模型训练。

• 昇腾910B/910 Pro：在昇腾910基础上的升级版本，在能效比和互联能力上有所提升。

2.2 核心优势

1. 强大算力：基于达芬奇3D Cube架构，提供极高的稠密矩阵计算性能。
2. 高能效比：采用先进工艺和架构设计，实现性能与功耗的优异平衡。
3. 全栈软件栈：配套CANN（Compute Architecture for Neural Networks）异构计算架构，提供从驱动、运行时到算子开发的全套工具。
4. 开放生态：支持主流AI框架（如TensorFlow, PyTorch, MindSpore），并提供丰富的模型库和开发工具。

3. 昇腾开发环境与CANN简介

在昇腾硬件之上，华为提供了 CANN（Compute Architecture for Neural Networks） 异构计算架构，它是连接上层AI框架与底层昇腾硬件的桥梁。对上支持多种AI框架，对下服务AI处理器与编程，发挥承上启下的关键作用，是提升昇腾AI处理器计算效率的关键平台。

CANN主要组件如下：

• 昇腾AI软件栈驱动：提供硬件访问能力。
• 昇腾AI处理器运行时（AscendCL）：提供运行时API，用于资源管理、任务调度等。
• 昇腾AI任务调度器：负责任务在CPU和NPU（Neural-network Processing Unit）之间的调度。
• 昇腾AI编译器：将AI模型编译成可在昇腾硬件上高效执行的指令。
• 昇腾AI调优引擎：提供性能分析和优化工具。

4. 昇腾平台常用命令手册

掌握常用命令是高效使用昇腾平台的基础。以下命令基于典型的Linux环境和CANN软件栈。

4.1 系统与设备状态查看

查看昇腾设备信息

# 使用npu-smi工具查看NPU设备状态，类似于nvidia-smi
npu-smi info

#每间隔1秒自动刷新
watch -n 1 npu-smi info

#指定使用的NPU卡号
export ASCEND_RT_VISIBLE_DEVICES=0

该命令会输出设备列表、温度、功耗、内存使用率、算力利用率等关键信息。

查看详细的设备拓扑和健康状态

# 查看更详细的设备信息，包括拓扑链接和健康状态
npu-smi info -t board -i 0  # -i 指定设备ID

实时监控设备状态

# 以交互式、刷新的方式监控设备状态（类似top命令）
npu-smi

4.2 模型转换（ATC工具）

ATC是将主流框架模型转换为昇腾离线模型（.om）的核心工具。

基础转换命令（以ONNX模型为例）

# 基本转换命令
atc --model=./resnet50.onnx \
    --framework=5 \          # 5代表ONNX
    --output=./resnet50 \
    --soc_version=Ascend310 \ # 指定芯片型号
    --input_shape="input:1,3,224,224" \
    --log=info

查看模型转换帮助

# 查看atc命令的所有参数说明
atc --help
# 或查看某个参数的详细说明
atc --help=--soc_version

4.3 性能分析与Profiling

性能分析是优化昇腾应用的关键。

使用msprof进行性能数据采集

# 采集应用运行时的性能数据
msprof --application="./your_app" --output=./profiling_data

导出性能数据为可读格式

# 将采集的二进制数据转换为csv等格式进行分析
msprof --export=on --output=./profiling_data --format=csv

使用npu-smi监控性能实时指标

# 监控指定设备的算力利用率，每秒刷新一次
npu-smi info -i 0 -c 1

4.4 日志查看与问题排查

查看昇腾运行日志

昇腾的运行日志通常位于 /var/log/npu/ 目录下。

# 查看驱动日志
tail -f /var/log/npu/driver/host-0/*.log

# 查看设备侧日志
tail -f /var/log/npu/slog/host-0/*.log

使用ascend-dmi进行设备信息深度查询

# 这是一个强大的诊断工具，可以查询详细的硬件和软件信息
ascend-dmi -i  # 查看设备信息
ascend-dmi -C  # 查看芯片信息
ascend-dmi -g  # 查看所有组件的概要信息

5. 常见问题与技巧（FAQ）

Q1: npu-smi info 显示设备状态异常怎么办？

• 检查驱动：运行 dmesg | grep npu 查看内核日志。
• 重启服务：尝试 systemctl restart ascend_driver。
• 查看官方文档：确认固件版本与驱动版本是否匹配。

Q2: ATC模型转换失败，如何获取更详细的错误信息？

• 将 --log 级别设置为 debug。
• 检查输入模型的格式、Opset版本是否被支持。
• 查看ATC转换日志文件（默认在当前目录或--log参数指定路径）。

Q3: 应用运行时出现内存不足错误？

• 使用 npu-smi info 查看NPU设备内存使用情况。
• 检查模型是否过大，尝试减小batch size。
• 检查是否有其他进程占用了NPU内存。

Q4: 如何最大化发挥昇腾310的推理性能？

• 使用ATC转换时开启自动调优：--auto_tune_mode="RL,GA"。
• 采用流水线并行，将大模型拆分到多个核上运行。
• 使用内存复用优化（通过AscendCL API配置）。

6. 总结与资源

昇腾系列AI处理器与CANN软件栈共同构成了一个强大而开放的AI计算平台。从查看设备状态的 npu-smi，到转换模型的 atc，再到性能分析的 msprof，掌握这些核心命令是进行高效昇腾开发的第一步。

进一步学习

• 官方文档：昇腾社区 提供最全面的文档、工具下载和模型库。
• 模型仓库：ModelZoo提供了大量预训练好的、可直接部署的昇腾模型。
• 开发者论坛：遇到问题时，可以在昇腾开发者论坛与社区交流。

希望这篇博客能帮助你快速踏入昇腾AI计算的世界，解锁强大的国产AI算力！