前文，分享了给 小智 接入【知识库】的方案：

小智Pro：给小智装上"知识外挂"，从此告别一问三不知

用的是主流的向量知识库：上传文档 → 切片 → 向量化 → 相似度匹配。

上线以来，痛点越发明显：

• 检索粗糙：一次向量匹配，长文档、PPT、网页这类结构化内容，经常返回一堆无关片段，定位不准
• 配置繁琐：要配文本模型、嵌入模型、重排模型，调用链路复杂
• 成本肉疼：每次检索都要调嵌入 + 重排，文档一大，token 成本高

鉴于以上瓶颈，小智Pro 推出 RAG 的全新方案——推理知识库。

今天来聊聊它👇

1. 什么是推理知识库？

受 LLM Wiki 和 Skill 渐进式披露思想的启发：

不一次性把所有内容抛给模型，而是按需逐层展开。把文档构建成层级树，让 LLM 沿树逐层推理导航，精准定位到你要的那段内容。

比如，输入一篇文章，建树如下：

相比向量库的"一把梭匹配"，推理知识库更像一个会读书的助手：先看目录定位章节，再看小标题定位段落，最后返回最相关的内容。

核心优势：

• 定位精准：LLM 逐层推理，长文档也能精确命中
• 开箱即用：无需配置任何模型，平台内置
• 多格式支持：Markdown/PDF/Word/PPT/Excel/图片/HTML，支持直接粘贴网页 URL
• 成本可控：只在建树和检索时消耗 token，检索走 Agent 推理，不重复嵌入

2. 怎么工作的？

小智设备与推理知识库的通信，采用 异步消息转发 模式：

小智设备 ──(语音提问)──> 小智Pro服务端 ──(检索)──> 推理知识库
        │                                              │
        │<──────────("正在检索，请稍候")────────────────│
        │                                              │
小智设备 <──(下发通知)── 小智Pro服务端 <──(知识库检索结果)─┘
        │
        └──(取回结果)──> AI 组织回答

为什么搞这么复杂？

因为 推理检索 要调用 LLM 沿树导航，耗时不短（几秒到几十秒），而小智是实时语音交互——用户说完话等太久，体验就崩了。

所以拆成两步：

1. 设备发起检索 → 服务端立即返回"正在检索"
2. 后台启动检索，完成后通知设备来取结果

这和之前 小智指挥 OpenClaw 的异步思路一脉相承。

2.1 文档建树

上传文档后，服务端自动执行：

1. 解析清洗：PDF/Word/PPT 统一转 Markdown，URL 抓取网页清洗正文
2. 标题切分：按 Markdown 标题层级提取节点，构建嵌套树
3. 空根合并：内容太短的空节点自动合并，省 LLM 摘要调用
4. 逐层摘要：LLM 为每个节点生成摘要
5. 状态就绪：建树完成，文档变为「就绪」即可检索

2.2 关键设计

特性	说明
树索引检索	LLM 沿文档树逐层推理导航，定位精准
异步响应	发起检索立即返回，不阻塞语音对话
智能推送	检索完成后根据设备状态（空闲/说话中）选时机通知取结果
结果去重	结果读取后即删，避免重复消费
多格式支持	PDF/Word/PPT/Excel/HTML/图片/TXT/Markdown + URL 抓取
开箱即用	无需配置模型，平台内置

3. 怎么用？

3.1 创建知识库

进入小智Pro 控制台，左侧菜单 推理知识库，点击「创建知识库」：

填写名称、描述，确认即可。

3.2 上传文档

进入知识库详情，支持两种方式：

文件上传：PDF · Word · PPT · Excel · HTML · 图片 · TXT · Markdown

URL 上传：粘贴网页链接（博客、文档站点等公开网页），服务端自动抓取清洗正文，提取干净标题作为文档名。

上传后状态为「索引中」，建树完成变为「就绪」即可检索。

3.3 检索测试

设备端用之前，可以先在控制台测一下：点「检索」按钮，输入问题：

查看命中节点数、检索耗时，结果按文档分组展示，每个节点显示来源文档、节点标题与完整内容。

3.4 统计数据

点「统计」按钮，查看检索统计：

• 总检索次数：累计被检索多少次
• 缓存命中率：命中缓存的占比
• 平均耗时：单次检索平均花多久
• 热门问题：近 30 天小智都在问什么

3.5 查看文档树

点文档的「树结构」，进入文档树视图：

左侧是 LLM 提炼的层级标题，右侧是选中节点的摘要和完整内容。直观了解文档怎么被切分索引的，便于排查检索效果。

支持切换查看文档的 Markdown 原文。

3.6 设为设备知识库

在知识库列表，点卡片底部的「设为设备知识库」按钮（上箭头图标）：

设为默认后，卡片显示绿色「设备知识库」标签。设备语音问答时，小智会自动调用该库检索上下文。

每个用户一个默认知识库，所有设备共享。

3.7 语音操控

将知识库设为设备默认后，直接对小智说：

- '你知道xx么'
- '帮我查查xx'
- '调用知识库，帮我查查xx'

成功调用后，屏幕或日志中会看到 self.kb.query 工具调用，检索完成后，小智基于检索结果组织回答。

4. 效果展示

比如，知识库里上传了一份产品介绍文档，对小智说：

小智Pro 的推理知识库支持哪些文件格式？

小智会先调起检索，沿文档树定位到相关节点，取回内容后组织回答：

推理知识库支持 PDF、Word、PPT、Excel、HTML、图片、TXT、Markdown 等多种格式，还支持直接粘贴网页 URL 自动抓取清洗……

再比如：

写在最后

本文分享了 小智Pro：推理知识库 的完整方案——扔掉向量数据库，用 LLM 推理导航，开箱即用、定位精准。

如果对你有帮助，不妨点赞收藏备用。

欢迎体验 小智Pro 更多功能，请戳👇：

https://mkwyqeoebedx.sealosbja.site

注：旧版向量知识库即将下线，老用户需尽快完成迁移。推理知识库 能力需设备端固件 v2.4.0.1 及以上版本。

固件已全面适配小智官方仓库收录的开发板型号，下载地址：

https://github.com/hougeai/xiaozhiPro/releases

有任何问题，欢迎进群交流。