03|鸿蒙7·端侧AI实战:知识切片,回答先有依据

本文集包含20篇独立短篇教程,对应封面编号01—20。前10篇讨论鸿蒙应用中的端侧AI应用层架构,不将通用架构包装成鸿蒙7独有API。模型加载、推理与分词需接入实际支持的框架。所有示例均为核心代码片段,本轮未进行编译或真机验证。封面为AI生成概念插画,界面和小字不作为官方功能、事实或API依据。
把一整份产品手册交给模型,并不一定能得到更好的答案。
手册前面是适用范围,中间是操作步骤,最后还有例外情况。切片方式不合理时,“可以办理”可能被保留下来,“仅适用于企业用户”却被切到了另一段。检索看似命中了内容,回答却丢失了条件。
切片的目标,是让每一段都保留足够的业务含义。
interface KnowledgeChunk {
id: string;
documentId: string;
headingPath: string[];
content: string;
revision: string;
}
除了正文,切片还应该带上文档编号、章节路径和版本。否则用户点击来源时,应用可能只能打开整份文档,无法定位答案依据。
一个实用的处理顺序,是先识别标题,再按段落和语义边界拆分。只有当单个段落过长时,才继续进行长度切分。
不要直接按固定字符数截断所有内容。表格需要保留表头;代码块需要尽量保持完整;“满足以下全部条件”与后面的条件列表,应该作为一个整体处理。
相邻切片可以适当重叠,但重叠不是越多越好。重叠过多会让检索结果出现大量近似内容,有限的上下文空间被重复信息占满。
中文字符数也不能直接等同于模型token数。第一版可以用字符长度控制粗略规模,正式接入后应该使用实际模型对应的分词方式评估输入预算。
知识更新时,应按文档版本替换相关切片,并同步处理旧索引。不能只添加新内容而保留旧规则,否则同一个问题可能同时检索到两个版本的答案。
验收时选几个依赖上下文的问题:适用对象、例外条件、办理时限、表格字段解释。检查每个问题命中的片段是否足以支持完整回答。
切片做得好,后续检索与生成才有可靠基础。很多看起来是模型理解能力的问题,实际出在资料进入模型之前。
官方参考资料
- 华为:读屏适配指南。https://developer.huawei.com/consumer/en/doc/harmonyos-guides-V14/screen-reading-adapt-guide-V14
- 华为:焦点位置设置。https://developer.huawei.com/consumer/cn/doc/HarmonyOS-Guides/scenario-focus-position-setting
更多推荐




所有评论(0)