登录社区云，与社区用户共同成长
邀请您加入社区
容器镜像：swr.cn-southwest-2.myhuaweicloud.com/base_image/dockerhub/lmsysorg/vllm-ascend:cann8.5.0-910b-glm5。--tensor-parallel-size 16：总张量并行 16 卡，Node0 占用 rank0-7，Node1 占用 rank8-15。--data-parallel-rpc-port
