登录社区云，与社区用户共同成长
邀请您加入社区
DeepSeek V4.1-Flash 在昇腾910B上通过MLA机制与KV Cache重构，推理延迟降至H100的1.2倍内，能效比更优。针对千亿MoE模型的显存与访存瓶颈，结合算子适配、连续内存池与自适应缓存策略，实现高效部署。实测显示，尽管算力差距显著，但国产芯片在特定优化下已具备工程可行性，选型需综合性能、功耗与生态匹配度。
CubeStudio 是一款国产云原生开源AI平台，覆盖大模型全链路能力。通过统一入口 start.py 与任务模板，集成 SFT、PPO、奖励模型、评测、压测、蒸馏、剪枝、量化等7大核心流程，支持多硬件（昇腾/寒武纪/海光等）与私有化部署。平台提供拖拉拽Pipeline编排、多租户算力调度、云边端协同及私有知识库管理，实现从数据到上线的全流程自动化，助力大模型高效落地。
CubeStudio是一款国产化、云原生的一站式开源AI平台，支持昇腾等国产算力，原生适配910B/310P NPU，实现DeepSeek等大模型的单机多卡与多机分布式推理。本文详解基于MindIE引擎的多机部署全流程：通过hccn_tool配置NPU参数面网络，生成ranktable.json拓扑文件，设置HCCL通信与环境变量（如RANK_TABLE_FILE、WORLD_SIZE），并结合C
本文基于CANN 5.0.2.alpha与MindSpore 2.2.10，深入解析昇腾生态算子库架构与模型优化路径。从算子分层设计、自定义Tiling策略到图算融合配置，系统梳理了精度误差、缓存利用率低、融合失效等核心痛点的解决方案，并提供可复现的配置示例与避坑指南。对比GPU生态，强调昇腾在混合精度、静态内存规划与算子融合上的差异化优势，助力开发者实现训练吞吐提升30%以上。
CubeStudio是一款国产化、云原生的一站式开源AI平台，支持昇腾、寒武纪等国产算力，原生适配vNPU虚拟化。本文以昇腾910B3为例，详解通过npu-smi静态切分、device-plugin改造、K8s资源上报及PyTorch实测全流程，实现一卡多用，显著提升算力利用率。平台支持多租户、分布式训练与大模型微调，助力企业低成本高效部署AI应用。
CubeStudio是一款国产化、云原生的一站式开源AI平台，支持昇腾等国产异构算力，覆盖从数据到部署的全链路MLOps。本文详解昇腾硬件基础部署四步：驱动与CANN安装、Ascend Docker Runtime配置、K8s Device Plugin接入、NPU Exporter监控集成，实现昇腾卡在Kubernetes中可调度、可监控。后续将深入vNPU虚拟化与大模型分布式推理。平台开源免费
Volcano：批量调度的事实标准，队列/优先级/Gang/公平调度一站式解决；HAMi：异构虚拟化中间件，一张昇腾卡切成多个细粒度实例，多芯适配（昇腾/海光/寒武纪）贴合信创诉求；两者互补：调度层决策"往哪跑"，设备层解决"怎么共享"，是昇腾 NPU 集群资源池化的成熟路径。多芯异构统一池：同一集群纳管昇腾 + 海光 + NVIDIA，用统一资源名做跨芯调度；任务队列治理：结合公司多租户场景设计
摘要： CubeStudio作为国产开源AI平台，全面支持寒武纪MLU370芯片的Kubernetes调度与AI任务全流程。本文详细介绍了从驱动安装、K8s组件部署到平台集成的五步操作方案，实现MLU卡在Notebook开发、分布式训练及vLLM大模型推理中的应用。平台通过资源映射机制（如1(mlu370)格式申请）统一管理异构算力，并支持vMLU虚拟化切分。该方案已适配昇腾、海光等国产芯片，助力
CubeStudio开源AI平台成功接入壁仞国产GPU的完整方案发布。该方案包含六个关键步骤：获取安装资料、部署主机驱动与容器运行时、安装Kubernetes组件（device plugin/agent/exporter）、验证节点卡数、Pod占卡测试及平台资源配置。通过标准化流程，壁仞GPU可像NVIDIA一样被统一调度，支持Notebook、训练和推理服务。方案同时解决了常见问题排查指南，体现
问题出在DCMI 24.1.rc1 对 310B1 芯片返回的 AI Core 数量是浮点数1.000000（310B1 只有 1 个物理 AI Core）。函数将其转为int64(1)，然后检查[8, 36]的合法范围——1 < 8，直接被拒绝。device-plugin 的 AI Core 数量范围默认假设芯片至少有 8 个 AI Core，而 310B1 只有 1 个。这是一个代码层面没有考
昇腾 NPU 在 Kubernetes 上的落地实战指南
本文将围绕 Ascend NPU 在 Kubernetes 中是如何被感知、注册和调度的 这一核心问题，结合真实运维场景，给大家依次介绍：ascend-device-plugin-daemonset 是什么它在 Kubernetes 中扮演什么角色它是如何工作的与 NVIDIA GPU device-plugin 的异同实际运维中必须掌握的检查与排障方法
