登录社区云,与社区用户共同成长
邀请您加入社区
暂无图片
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
本文介绍了Makerobo K210边缘智能硬件实验套件的模块清点与分类方法。该套件包含主控开发板、扩展板及各类传感器模块,覆盖输入采集、输出控制、显示交互、通信扩展和AI视觉等功能。文章提供了Python清点脚本,通过字典结构将模块分为主控扩展、基础输出、输入检测等8大类,并输出分类清单。模块清点是实验准备的重要环节,清晰的分类有助于后续实验的接线、编程和排错。文章强调按照"先分类、再
结果就是部分 worker 的 KV 传输通道起不来,P 节点收不到完整的建链请求,或者发 KV 时找不到对应的目标端口,最终表现为连接被重置、请求超时、D 节点永久卡死。把它写进启动脚本,别依赖自动探测。"kv-transfer-config" 里的 IP 字段在某些版本/场景下只是"声明"或"注册"用途,实际建链时底层走的还是。"kv_port" 不是单端口,是一组端口,只查一个等于自欺欺人。
大模型技术不断下沉,本地AI硬件不再是极客专属,普通个人用户也希望拥有属于自己独立算力设备,脱离网络限制运行智能体,保护个人数据隐私。联想AI主机Mini作为AI原生个人家庭边缘设备,秉持小巧机身,随处相宜的产品设计,把本地大模型推理、智能体运行全部封装进巴掌大小机身,首发价格2999元,购买即赠送150万能量值,降低个人用户入门的综合成本。居家使用,它是居家离线龙虾AI小型电脑,断网环境也可以调
SpireCV-Pro是一个专为智能无人系统打造的边缘实时感知开发平台(SpireCV的升级版),提供丰富的多平台(x86_PC、Jetson、瑞芯微、华为昇腾)基础功能,主要包括轻量级大模型推理、图像/雷达目标检测与跟踪、相机/吊舱控制、视频保存与推流、边缘数据管理迭代等。通过YOLO11检测算法,加载指定训练数据集或COCO通用数据集,对目标进行检测,通过litetrack跟踪算法对选中的目标
在 HarmonyOS(鸿蒙)的 Stage 应用模型中,UIAbility是承载用户交互的核心组件。一个 Module 被加载时,谁来统一管理其中的 UIAbility?重复启动 UIAbility 时,系统是「新建实例」还是「复用实例」?由谁决定?不同 UIAbility 之间如何传递数据、如何拉起对方?// 模块加载时触发hilog.info(DOMAIN, TAG, 'MyAbilityS
随着AI技术落地内容生产领域,自动化录制、智能语音转写、大模型语义高光识别已经成为直播复盘的最优解。本文实测一款轻量化桌面端全链路直播复盘工具——小智回播,适配主流直播平台,整合流式录制、云端语音识别、AI智能剪辑能力,完美解决个人主播、小型运营团队复盘低效问题。
第二,8 卡重新规划 kv_port。P、D 的 kv_port 保持一致,engine_id 按集群规划唯一。这种“端口通但业务不通”的最典型原因,就是 kv_port 起始端口被监听了,但 8 卡所需的连续端口组里某些端口被其它服务吃了,或者 kv_port 整体与昇腾随机 RDMA 端口区间重叠。D:kv_port 28002,kv_role kv_consumer,同样 dp/tp,del
专为大模型推理KV缓存场景设计,构建PB级Pod专属共享缓存空间,自动识别高频热KV并预取至GPU HBM与CPU内存,低频KV统一驻留共享存储池。深度适配麒麟、统信等国产操作系统,完美兼容华为昇腾、壁仞、摩尔线程等国产GPU超节点,原生适配vLLM、SGLang等主流推理框架及DeepSeek、通义千问等大模型,开箱即用,满足政企、金融、运营商信创算力建设要求。本届峰会围绕“存力跃迁 AI破局”
昇腾平台迁移 Megatron-LM 的核心是MindSpeed 适配层 + NPU 算子替换 + HCCL 通信适配,通过少量代码修改即可实现高效迁移。迁移过程需重点解决 CUDA 依赖替换、算子适配、并行策略兼容三大问题。
计算单元利用率:AI Core/Vector Core 是否满负荷,是否存在空转、等待。内存搬运效率:片上内存(UB/L1/L2)与 DDR/HBM 之间搬运是否冗余,是否使用异步拷贝。算子调度开销:单算子调度延迟、多算子并行 / 串行策略是否合理。数据精度与指令:FP16/BF16/INT8 是否正确使用,是否采用昇腾专用加速指令。并行策略:多核并行、向量化、流水线是否开启。提升算力利用率(≥8