【共创稿事节】从一块 16GB 板子上的 30B-A3B,看 HarmonyOS 7 空间计算的同一道内存题
本文提出:鸿蒙端侧AI的瓶颈非算力,而是“分层驻留+页级回收”内存纪律缺失——尤其在神经网络模型加载路径上。基于RK3588实测,通过逐层驻留与MADV_DONTNEED实现30B MoE模型常驻内存从16.45GiB压至0.483GiB(23.2×),且逐位正确。该纪律可对照鸿蒙7,建议四步验证路径:NAPI封装、模拟器位级一致、真机语义等价、视觉塔缓存对比。3DGS侧已有基础,缺策略层;而模型
所有评论(0)