一句话让Agent变成昇腾专家，不必再找人问了。评测入口：
（To Agent）请按这个开源仓接入昇腾图谱 https://gitcode.com/agent0/kg-tools

“微调数据长短不一”属于高频检索问题，全部 padding 到统一 seq-length 是最常见的算力浪费。昇腾训练栈有两条正路：流水线并行的动态形状，或样本级 Pack。

–variable-seq-lengths（MindSpeed PP 动态形状）

开启后每个微批次保留原始序列长度，通过发送前提前通信张量形状、在各流水线阶段同步即将接收的数据形状来保证内存分配正确：

--pipeline-model-parallel-size ${PP}   # PP >= 2
--variable-seq-lengths

官方明示的限制：序列长度本就固定时开启反而增加不必要通信开销，不建议用；需监控内存防止长度波动引发溢出；暂不支持 --moe-token-dispatcher-type alltoall_seq 和 allgather。

多样本 Pack：治 padding 的另一条路

把多个短样本拼接成定长 Pack，拼接不足才 pad，每条 Pack 长度一致：

• 输入从 [B, S_max] 变为 [T]（T 为有效 token 总数），批内长度差异越大收益越明显；
• attn_mask 变锯齿状：样本间互相 mask、保持独立，不浪费计算也不串注意力；
• 参考脚本 examples/mcore/qwen3 的 32K full pack 版本。

动态 shape 本身的性能代价与应对

图编译侧（GE/ATC）动态维度需设分档，代价与对策都写在机制里：

1. 档位设置：Data 算子 shape 指定维设 -1，编译时用 DYNAMIC_BATCH_SIZE 列出档位（如 “2,4,8”），运行时按实际档位申请内存（aclmdlSetDynamicBatchSize），不调则按最大档执行；
2. 档位过多或过大会导致模型编译失败，官方建议减少档位或调低档位值；
3. 性能差异：官方明确提示设置动态特性后生成的网络结构可能与固定 shape 不同，推理性能可能有差异——对延迟敏感场景尽量收窄档位；
4. 执行引擎：v1 运行时面向静态 shape（任务下沉硬件），动态 shape 走 hybrid/v2 路径（host 拓扑执行），路径本身就更重，能用静态就静态。

选型建议

• 训练微调、长度分布散：优先多样本 Pack（定长 kernel，无重编译）；
• 流水线并行且确实变长：–variable-seq-lengths，但要接受通信开销；
• 推理服务 batch 波动：ATC 分档 + 收窄档位范围，避免全 -1 泛化。

---

昇腾知识图谱如何检索示例

• 检索主题: 变长序列训练：variable_seq_lengths 配置与动态 shape 性能损失应对
• 检索关键词: [“variable_seq_lengths”, “动态 shape 性能”, “微调 变长 sequence length 数据打包 packed”]
• 内容节点: [“mindspeed_docs_zh_features_variableseqlengths_原始文本”, “cannrecipesinfer_docs_design_packedsequencedesign_padding_带来的开销”, “mindspeedllm_docs_zh_pytorch_training_finetune_mcore_multisamplepackfinetune_不同长度的数据”, “ge_docs_zh_userguides_graphdev_morefeatures_dynamicshape_固定batch_size场景”]
• 召回情况: 3 组 query 重放，top1 score 0.911-0.962；命中 MindSpeed PP 动态形状特性文档（–variable-seq-lengths 原文）、Packed Sequence 机制设计（Padded vs Packed 对比）、多样本 Pack 微调文档、GE 动态 shape 分档机制