登录社区云,与社区用户共同成长
邀请您加入社区
分布式软总线(DSoftBus)是鸿蒙实现“万物互联”的核心底层能力,通过统一接口屏蔽Wi-Fi、蓝牙等物理协议差异,实现设备自动发现、安全认证、自适应通信与高效传输。其四大核心模块——设备发现(订阅-发布模式)、身份认证(双向ECDSA/ECDH/AES)、智能协议切换(基于带宽/延迟动态选择)及分片+QoS保障的数据传输,显著提升跨设备协同实时性:小数据延迟低至5~20ms,连接复用使二次通信
调优的本质不是"把参数拉满",而是理解每个参数背后的物理约束,在相互冲突的目标间找平衡点:容量 vs 稳定性 → 选 0.85:吞吐 vs 激活显存/延迟 → 选 32768 甜点:长 prompt 吞吐 vs 短请求延迟 → 让短的插队CPU Offload:HBM 容量 vs PCIe 带宽 → 用 200GB 换"不重算"最重要的那条建议:别信任何估算(包括本文的数字),用你自己机器的启动日
摘要:本文介绍了昇腾NPU在多卡推理场景下的通信优化方案。重点分析了三种并行策略(TP、PP、EP)的通信模式及对应的HCCL接口实现,包括AllReduce、AllGather和ReduceScatter等核心通信原语。详细展示了HCCL环境初始化的关键步骤和注意事项,并通过代码示例演示了张量并行中的AllReduce操作和专家并行中的AllGather+ReduceScatter通信对实现。文