cann 开源社区:https://atomgit.com/cann

ascend-boost-comm仓:
https://gitcode.com/cann/ascend-boost-comm 
https://atomgit.com/cann/ascend-boost-comm

一、ascend-boost-comm 是什么?
领域加速库公共组件,Ascend Boost Comm。它统一定义了算子调用的L0级接口。南向对接不同组织开发的算子库,北向支撑不同加速库应用,实现M x N算子能力复用。

从 CANN 五层架构来看,ascend-boost-comm 位于编译层和执行层之间。它不直接编译代码,也不直接执行算子,而是在两者之间提供一套标准化 的算子集成接口。这套接口对上层(PyTorch、MindSpore、Paddle 等框架适配器)暴露统一的调用方式,对下层(算子实现)提供标准化的调度和通信能力。

二、与 ATB 的关系
ascend-boost-comm 和 ATB(ascend-transformer -boost)在概念上容易混淆,但它们的分工清晰:

ATB 专注 Transformer 类模型的加速——提供融合算子、KV Cache 管理、分布式推理调度等能力。它是「垂直领域加速库」。

ascend-boost-comm 专注算子与上层应用的连接——提供统一的算子集成接口和通信抽象。它是「横向公共平台」。

在技术栈上的关系:

PyTorch → [框架适配器] → ascend-boost-comm → ATB 算子 → NPU
MindSpore → [框架适配器] → ascend-boost-comm → ATB 算子 → NPU
Paddle → [框架适配器] → ascend-boost-comm → ATB 算子 → NPU

总结
ascend-boost-comm 作为 CANN(Compute Architecture for Neural Networks)生态中的通用公共组件库,为昇腾(Ascend)AI 处理器上的算子开发提供了坚实、高效的基础功能支撑。它通过精心设计和优化的 C++ 组件,封装了算子开发过程中频繁使用的通用模块,显著降低了开发者的重复劳动和底层编码复杂度。

Logo

作为“人工智能6S店”的官方数字引擎,为AI开发者与企业提供一个覆盖软硬件全栈、一站式门户。

更多推荐