选择安装场景

准备软件包

软件包下载

当前CANN软件支持通过离线安装run格式软件包、Conda、Yum、Apt-get和Pip在线安装，不同的安装类型获取软件包的方式不同，请参考本节内容进行获取。

下载下表所示软件即表示您同意华为企业业务最终用户许可协议（EULA）的条款和条件。

表2 独立软件包清单

软件类型	软件包说明	软件包名称	获取链接
昇腾NPU驱动	部署在昇腾AI处理器，用于管理查询昇腾AI处理器，同时为上层CANN软件提供处理器控制、资源分配等接口。	Ascend-hdk-<chip_type>-npu-driver_<version>_linux-<arch>.run	包管理器在线安装时，支持在线一键下载和安装，无需获取软件包
昇腾NPU固件	固件包含昇腾AI处理器自带的OS 、电源器件和功耗管理器件控制软件，分别用于后续加载到AI处理器的模型计算、处理器启动控制和功耗控制。	Ascend-hdk-<chip_type>-npu-firmware_<version>.run
Toolkit	CANN开发套件包，主要用于训练和推理业务、模型转换、算子/应用/模型的开发和编译。 需要同时安装Toolkit和ops。	Ascend-cann-toolkit_<version>_linux-<arch>.run	包管理器在线安装时，支持在线一键下载和安装，无需获取软件包
ops	CANN算子包集成一系列库文件，包括算子基础框架，算子库（包含math、nn、cv和transformer）、TBE算子、HCCL集合通信库、HIXL单边通信库和 DVPP库，具体文件包括单算子API执行（如aclnn类API）动态库/静态库文件、算子源码以及kernel二进制文件，优化高性能计算场景下的整体运行能力。 安装ops前，需已安装同一版本的Toolkit软件包，请选择运行设备对应的ops软件包。	Ascend-cann-<chip_type>-ops_<version>_linux-<arch>.run
NNAL （Ascend Neural Network Acceleration Library）	CANN神经网络加速库，包含ATB（Ascend Transformer Boost）加速库和SiP（Ascend SiP Boost）信号处理加速库。 1）ATB加速库：面向大模型领域，可以提升大模型训练和推理性能。 2）SiP加速库：面向AI模型场景（Python）、Torch NPU Adapter和信号处理场景（C++），提供一系列信号处理领域相关的高性能算子。 安装时需已安装同一版本的Toolkit软件包。	Ascend-cann-nnal_<version>_linux-<arch>.run

说明

• <chip_type>表示AI处理器类型
• <version>表示软件版本号
• <arch>表示CPU架构

软件数字签名验证

为了防止软件包在传递过程或存储期间被恶意篡改，下载软件包时需下载对应的数字签名文件用于完整性验证。

请单击PGP数字签名工具包获取工具包，将工具包解压后，请参考文件夹中的《OpenPGP签名验证指南》，对下载的软件包进行PGP数字签名校验。如果校验失败，请不要使用该软件包，访问支持与服务在论坛求助或提交技术工单。

安装NPU驱动（Yum在线安装）

本节将介绍通过Yum快速安装NPU驱动的操作步骤。

准备用户

本节指导用户创建安装和运行用户，若用户已存在，请跳过本节内容。

表1 用户类型

组件	安装用户	运行用户
NPU驱动	root	由于安装驱动时，运行用户和用户组默认指定为HwHiAiUser，需在安装软件包前自行创建HwHiAiUser的运行用户和用户组。 若创建的用户和用户组是非HwHiAiUser（含root），安装驱动时必须指定运行用户。

本文档中的示例步骤使用的用户如下：

• 以root用户安装驱动。
• 以非root用户HwHiAiUser（驱动的默认运行用户）为运行用户。

执行如下示例命令，创建HwHiAiUser用户和用户组：

groupadd HwHiAiUser
useradd -g HwHiAiUser -d /home/HwHiAiUser -m HwHiAiUser -s /bin/bash

默认用户HwHiAiUser的用途和配置要求，请以《Atlas 系列硬件产品 账户清单》为准，若想创建其他非root用户，请用户自行创建。

安装依赖和配置昇腾源

执行如下命令检查源是否可用。

yum makecache

如果命令执行报错或者等待时间过长，则检查网络是否连接或修改“/etc/yum.repos.d/xxxx.repo”文件为可用源（以配置华为镜像源为例，可参考华为开源镜像站中镜像源对应的配置方法操作）。

执行命令安装所需依赖

yum install -y make dkms gcc kernel-headers-$(uname -r) kernel-devel-$(uname -r)

如果出现报错或者依赖不存在，请参见安装驱动源码编译所需依赖解决。

配置昇腾源，否则将无法安装。

curl https://repo.oepkgs.net/ascend/cann/ascend.repo -o /etc/yum.repos.d/ascend.repo && yum makecache

安装NPU驱动

安装完成后，可根据系统提示信息决定是否重启系统，若需要重启，请执行reboot命令，并执行如下命令查看驱动加载是否成功。

npu-smi info

若返回驱动相关信息说明加载成功。否则，说明加载失败，请访问支持与服务在论坛求助或提交技术工单。

安装CANN（Yum在线安装）

本节将介绍通过Yum快速安装CANN软件的操作步骤。

安装依赖

安装前需确保已具备Python环境及pip3，当前CANN支持的Python版本为Python3.7.x至3.13.x，若不满足可执行以下命令安装。

sudo yum install -y python3 python3-pip

若安装失败、版本不满足或者未包含动态库libpython3.x.so请参考编译安装Python操作。

配置昇腾源

执行如下命令配置昇腾源，否则将无法安装。

sudo curl https://repo.oepkgs.net/ascend/cann/ascend.repo -o /etc/yum.repos.d/ascend.repo && yum makecache

安装Toolkit开发套件包

CANN Toolkit开发套件包，在训练&推理&开发调试场景下安装，主要用于训练和推理业务、模型转换、算子/应用/模型的开发和编译。

须知

安装Toolkit软件前请确保安装目录可用空间大于10G，如不满足请清理空间或更换安装目录。

执行安装命令。

sudo yum install -y Ascend-cann-toolkit-9.0.0_beta.2

Yum在线安装时仅支持安装在默认路径“/usr/local/Ascend”下。

配置环境变量。

source /usr/local/Ascend/cann/set_env.sh

上述环境变量配置只在当前窗口生效，用户可以按需将以上命令写入环境变量配置文件（如.bashrc文件）。

安装ops算子包

CANN算子包集成一系列库文件，包括算子基础框架，算子库（包含math、nn、cv和transformer）、TBE算子、HCCL集合通信库、HIXL单边通信库和 DVPP库，具体文件包括单算子API执行（如aclnn类API）动态库/静态库文件、算子源码以及kernel二进制文件，优化高性能计算场景下的整体运行能力。

ops算子包安装之前，需已安装同一版本的Toolkit，并安装在同一路径下。

安装NNAL神经网络加速库（可选）

NNAL神经网络加速库中提供了ATB（Ascend Transformer Boost）加速库和SiP（AscendSiPBoost）信号处理加速库。

加速库安装之前，需已安装同一版本的Toolkit并配置环境变量。

执行安装命令。

sudo yum install -y Ascend-cann-nnal-9.0.0_beta.2

Yum在线安装时仅支持安装在默认路径“/usr/local/Ascend”下。

配置环境变量。

1）ATB加速库：

source /usr/local/Ascend/nnal/atb/set_env.sh

2）SiP加速库：

source /usr/local/Ascend/nnal/asdsip/set_env.sh

上述环境变量配置只在当前窗口生效，用户可以按需将以上命令写入环境变量配置文件（如.bashrc文件）。

安装后配置

安装软件包后，请根据业务要求参考本节内容进行配置。

安装运行所需依赖

运行业务时，依赖g++和以下Python第三方库，请执行如下命令安装：

安装g++（如果使用root用户安装，请将命令中的sudo删除）。Debian、Ubuntu、veLinux：

sudo apt-get install -y g++

openEuler、CentOS、Kylin、BCLinux、UOS V20、AntOS、AliOS、CTyunOS、CULinux、Tlinux、MTOS、vesselOS：

sudo yum install -y gcc-c++

安装Python第三方库（如果使用root用户安装，请将命令中的--user删除）。

pip3 install attrs cython numpy decorator sympy cffi pyyaml pathlib2 psutil protobuf==3.20.0 scipy requests absl-py --user

以上命令会安装最新版本或指定版本的依赖，关于Python第三方库（numpy、scipy等）需与Python版本配套使用，具体版本要求请参见运行依赖列表。

若安装过程中提示pip源不可用，请参见配置pip源，完成后再执行安装命令。

安装后验证

执行以下命令，若返回芯片型号，则验证CANN安装成功。

python3 -c "import acl;print(acl.get_soc_name())"

配置最大线程数（可选）

训练场景下，OS的最大线程数可能不满足训练要求，以root用户执行以下命令修改最大线程数为无限制。

配置环境变量，修改线程数为无限制，打开“/etc/profile”文件。

vi /etc/profile

添加如下内容后保存退出。

ulimit -u unlimited

执行如下命令使环境变量生效。

source /etc/profile

转自：https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/900beta2/softwareinst/instg/instg_0094.html?Mode=PmIns&OS=openEuler&InstallType=netyum