第11篇-当 Agent 住进几十块的开发板:嵌入式物联网,正在发生什么?
当 Agent 住进几十块的开发板:嵌入式物联网,正在发生什么?
AI 学习笔记 · 第 11 篇(嵌入式篇)
前面十篇,我们聊的大多是"屏幕里的 AI"——它读文档、调工具、写代码、管上下文。
但 AI Agent 真正要改变世界,还得走出屏幕,去碰真实世界里的开关、电机、传感器和灯泡。
有意思的是,这一轮承担这个任务的,居然是一块几十块钱的开发板。
Anthropic、Google、OpenAI、Meta 这几家大厂,最近半年都在悄悄拿 ESP32 做 AI 硬件实验;GitHub 上相关项目的新增速度这两年翻了不止一倍。这一篇,就从四个最有代表性的开源项目讲起——设备端的小智(xiaozhi-esp32) 与 ESP-Claw,以及传感器侧的 IoT-MCP 与 SensorMCP——看看嵌入式这块"老领域"正在长出什么新东西,机会在哪儿。
一、先看变化:从"执行指令"到"就地决策"
一句话:智能设备正在从"你说一句它动一下",变成"它听懂、它判断、它自己长本事"。
过去的智能音箱、扫地机器人、智能插座,本质都在跑一套写死的程序:你按一下、说一句固定指令,它执行一个动作。能做什么,出厂那一刻就定死了。现在,这套逻辑正被三件事同时改写。

转变一:交互方式从"指令"变成"自然语言"。 过去要记口令:“打开客厅灯”;现在可以说"我有点闷"——设备自己判断你想开窗、开风扇还是调空调。中间"把人类意图翻译成设备动作"这活儿,交给了大模型。
转变二:决策位置从"云端"下沉到"设备侧"。 过去是"传感器 → 网关 → 云端 → 返回",所有数据都得先传上去。现在趋势是让设备自己先看明白——一个工厂部署几万台传感器,每台都把原始数据实时传云,带宽和延迟都扛不住。更现实的做法是:设备先判断,只在发现"值得关注的事情"时才上报。
转变三:开发方式从"写死逻辑"变成"Agent 动态生成行为"。 这是最颠覆的一点。设备的某个新能力,可以不是程序员提前写好的,而是用户用一句话描述、AI 当场生成、设备当场学会——这正是 ESP-Claw 在做的事。
补一个背景:这条路不只是"厂商愿景"。Omdia 2026 年 10 月调查,62% 的受访组织已采用边缘架构,78% 的边缘物联网部署已越过试点阶段。边缘智能正在从"试一试"变成企业 IT 架构的常规组成部分。
二、四个标志性开源项目
一句话:两个在"设备端"让设备会说会动,两个在"传感器侧"让 AI 读得准、还能自己造工具。
2.1 小智(xiaozhi-esp32):让开发板学会"听"和"说"
一句话:它让一块 50 元的 ESP32-S3 开发板,变成一个能听懂人话、会开口回话的 AI 助手。
小智是 2025 年下半年在国内开源圈爆火的项目:接上麦克风、扬声器、一块屏幕,烧录固件、配对 Wi-Fi 与大模型 API Key,通电就能和你聊天——回答问题、报天气、控制家电、做简单翻译。硬件成本可以压到 50 元以内,是目前 DIY AI 硬件圈里最火的入门项目。

它的架构拆成了三段:板上的 ESP32-S3 只负责"听"和"说"(麦克风拾音、唤醒词检测、音频编解码、扬声器播放);本地跑一个"协议桥"(处理 WebSocket/MQTT、会话管理、音频格式转换);理解与表达交给云端大模型(ASR 语音识别、LLM 理解、TTS 语音合成)。
设计精髓在于:板上不跑大模型,但大模型的能力却能完整抵达设备——这是一个非常务实的取舍。
2.2 ESP-Claw:给 AI 装上"手"
一句话:如果说小智给了 AI “嘴巴和耳朵”,那 ESP-Claw 给它的是"眼睛和手"。
ESP-Claw 让一块 ESP32 开发板接上摄像头和一个机械爪,通过 MCP 协议让大模型"看"到摄像头画面、输出舵机角度指令,实现自然语言控制抓取——你说"把红色方块夹起来",AI 看画面、算坐标、驱动舵机、真的把东西夹起来。

关键在 MCP 是硬件的标准接口:大模型不用知道舵机怎么驱动、摄像头用什么协议,只需调用"grab(x,y)""move_to(x,y)"这类标准工具,就能指挥机械爪。这与第 5 篇讲的 MCP 是同一套思路——只不过这一次,工具是物理世界里的舵机和夹爪。

小智和 ESP-Claw 一个做"入口"、一个做"动作",但它们都有一个共同的前提:大模型还是在云端。下两个项目解决的问题,是让 AI 不只在设备侧"动",还能直接和"各式各样的传感器"说上话。
2.3 IoT-MCP:把 MCP 直接"焊"到传感器上
一句话:IoT-MCP 是一条通用翻译线,让所有传感器都说同一种话——大模型接一次就能接所有设备。
传感器世界有个老毛病:各说各话。温湿度走 I2C、加速度走 SPI、摄像头走 MIPI、工业上走 Modbus……每种协议都要单独写驱动。要把一个新传感器接进大模型?以前得专门写适配代码。
IoT-MCP(杜克大学团队,论文 arXiv:2510.01260,ACM WiNTECH 2025)把这件事变成了一层标准"调度台"。

它的三层像一家餐厅:

- 本地主机层(前台):对接用户请求、连接大模型、做会话编排;
- 数据池与连接服务器(后厨调度台):负责设备注册、把所有传感器的数据统一成同一种格式、调度任务;
- 微控制器层(厨师工位):真正接传感器与执行器、执行指令。
关键就在"后厨调度台"——它是最大的瓶颈:论文数据显示,这一层占端到端总耗时的 30%–75%,也是 IoT-MCP 优化的核心。
跟着走一遍:你说"我有点热"——前台听懂→调度台把任务派给温湿度工位→读回数据→前台给大模型→回一句"现在 26.5°C,要不要开风扇?"。不管底下什么牌子什么协议,报上来的格式都长一样,大模型认识一种格式,就等于认识了所有设备。
实测数据很硬:100% 工具调用成功率、205 毫秒响应、74 KB 峰值内存、22 种传感器 × 6 款微控制器(RP2040、nRF52840、STM32F4、Teensy 4.1、ESP32-S3、Pico W)、12 小时现场实测稳定。论文还有个反直觉发现:换个模型,工具调用成功率直接掉到 77%/84%——说明 MCP 工具描述的写法本身就会强烈影响模型能力。
2.4 SensorMCP:让 AI 自己给自己"造工具"
一句话:如果市面上根本没有你要的那个"传感器工具"——SensorMCP 让系统自己造一个出来。
场景:你想让门口的摄像头"帮我盯着老虎"——但市面上根本没有"认老虎"的现成 MCP 工具。SensorMCP(香港中文大学)解决的就是这个痛点:当大模型需要一种新型传感器能力,系统能自动生成一个专用的 MCP 工具给它用。

它走四步:① 数据引擎自动采集传感器原始数据 → ② 自动标注用大模型给数据打标签 → ③ 训练小模型为这个传感器训练专属检测器 → ④ 打包成工具自动封装成标准 MCP 工具,大模型可直接调用。
这套管道只对外暴露三个接口:用户用自然语言描述想要什么工具、系统返回一个工具 ID、之后就能按 ID 调用。实测:95% 工具生成成功率,小模型比通用大模型在特定任务上 F1 分数高 15%–30%。

一句老话很贴切:磨刀不误砍柴工。26 分钟是"磨刀"的一次性投入,21 秒是此后每次"砍柴"的常态——而且这套工具是系统自己造的,不是工程师提前写好的。

2.5 还有个背景:2026 年端侧模型已经跑得动了
四个项目背后,还有一条容易被忽略的前提:小模型在端侧已经跑得动了。Liquid AI 的 LFM2(3.5 亿–26 亿参数)在 CPU 上速度比同类快约 2 倍;剪枝、量化、蒸馏、无损压缩这套"瘦身四板斧"加上硬件加速、端边协同、MoE、KV 缓存管理,意味着板上的小模型已经能完成基本判断——不需要事事传云。
再配合 AutoEmbed(香港城市大学等)解决"七千多个 Arduino 库怎么选"的依赖难题——95.7% 代码准确率、86.5% 端到端成功率、73% 的 bug 在部署前被拦下——嵌入式 AI 真的进入了工程可落地的阶段。
三、四个真正的坑
一句话:从"能跑 Demo"到"稳定上线"中间,至少隔着四堵墙。
坑一:硬件层——你得先让代码"跑上去"
板上资源极度紧张:ESP32 老版本只有 520 KB SRAM,加载个大点的模型就 OOM。要做模型量化、剪枝、PSRAM 扩展;还要考虑供电稳定性、功耗、散热、电磁干扰。一个实在建议:直接上 ESP32-S3,别从老版本开始踩坑。
坑二:连接层——不是接上 MCP 就完事
IoT-MCP 的论文里有个关键反例:换个模型,工具调用成功率就从 100% 掉到 77%/84%。工具描述的写法、Schema 设计、错误处理、断网重连、降级策略——每一处都要仔细设计。MCP 是接口标准,不是万能药。
坑三:数据层——采回来的数据本身会骗人
传感器会漂移、会坏、会被干扰;网络抖动会丢包;不同厂家的"同一种"传感器读数可能不一样。盲目把原始数据喂给大模型,和在网上搜一篇帖子就做决策一样不靠谱。数据清洗、校准、异常检测、时间戳对齐,这些"脏活"在 AI 时代不但没消失,反而更重要。
坑四:代码层的三堵墙

- 内存墙:520 KB SRAM 是硬上限,要做模型量化+裁剪,推荐直接上 ESP32-S3(PSRAM 可扩到 8MB);
- 延迟墙:首 Token 时间(TTFT)决定了对话是否自然,要流式接收、边生成边播报,否则对话会卡顿;
- 编解码墙:音频/图像编解码非常耗时,要硬件加速+DMA+双缓冲,否则实时性就没了。
四、还有一件事被忽略了:设备也是"数据矿工"
一句话:AI 不只消耗设备的数据,它还开始反向"管"数据。
传统模式里传感器像流水线工人,按时按点把读数传上来。边缘 Agent 来了之后,设备多了一个身份——主动的"数据矿工"。

- 指导采样:AI 判断该采哪些点、什么频率,不瞎采;
- 动态功耗:不重要时降频省电,异常时唤醒;
- 合成数据:缺数据时 AI 自己补样本,减少标注成本;
- 数据文本化:把传感器数值翻译成自然语言描述,方便喂给大模型;
- 虚拟标注员:边跑边给自己打标签,持续学习;
- 缺失修补与软传感器:用 AI 推算硬件没装的传感器值(比如只装温度+湿度,用模型"推算"体感温度)。
这是一个被低估的方向:数据生产本身正在被 AI 重塑。
五、大厂也在押注
一句话:当 AI 长在设备上,每家云厂商都想成为那块芯片背后的"大脑"。

- Anthropic:Claude 已直接支持 MCP over BLE、串口、MQTT,大模型能直接读传感器;
- Google:Edge TPU 迭代到第 5 代,Gemma 端侧模型专为 IoT 优化;
- OpenAI:推出 Agents SDK 硬件扩展,支持在 ESP32 系列直接调用工具;
- 字节/国内厂商:豆包、通义、Qwen 端侧小模型持续迭代,国内 DIY 社区主要靠这套驱动。
这不是某一家的战略,而是云厂商的新战场。边缘 AI 不是新风口,而是"云 + 端"新战争的战场。
六、六个值得关注的机会方向
一句话:前五类做看得见的应用,第六类做看不见的地基——地基周期更长,壁垒也更高。

- 智能家居:从语音助手走向"主动理解上下文、跨设备协同";
- 工业运维:设备自检+预测性维护——IoT-MCP 论文里就有 12 小时现场实测;
- 农业/环境:低成本传感器 + 云判定,田间无人值守;
- 可穿戴/健康:实时健康异常预警,端侧推理保证隐私;
- 机器人/教育玩具:AI 接舵机+摄像头,机械爪、小车、教育机器人;
- 开发者工具(协议/底座层):IoT-MCP / SensorMCP 这类协议层与底座是 2026 最被低估的方向——它不是面向最终用户的产品,而是给所有 AIoT 应用提供通用"说同一种话"的地基。
七、写在最后
这一篇讲了很多数字:100% 成功率、205ms 响应、74KB 内存、95% 工具生成率、62% 企业已采用……但最想让你记住的,其实是一句话:
嵌入式 × AI Agent 这件事,真正的变化不是"大模型终于能跑在开发板上了",而是——传感器、执行器、协议、数据,这些"老零件"正在被重新用一套统一的方式组织起来,让 AI 第一次真的能"碰"到物理世界。
小智让 AI 有了嘴巴耳朵,ESP-Claw 让 AI 有了眼睛和手,IoT-MCP 让所有设备说同一种话,SensorMCP 让 AI 能自己"长"出新的感知能力。当这些零件拼在一起,一块几十块钱的开发板,就不再只是一块板子了。
系列导航:
- 第 1 篇 · AI 名词怎么分层(总纲)
- 第 2 篇 · Agent 是什么
- 第 3 篇 · 主流 Agent 工具全景
- 第 4 篇 · Skill 是什么
- 第 5 篇 · MCP 是什么
- 第 6 篇 · RAG / 微调 / 长上下文 / Agent:四条技术路线怎么选
- 第 7 篇 · 上下文工程
- 第 8 篇 · 多智能体系统
- 第 9 篇 · Vibe coding 是什么
- 第 10 篇 · 智能体平台怎么选
- 第 11 篇 · 嵌入式物联网 × AI Agent(本篇)
- 配套工具书 ·《读懂 AI:术语与常见问题》(148 条术语 + 50 个常见问题),关注weixin公众号,后台回复“11111”免费获取。
本文为个人 AI 学习笔记整理,IoT-MCP 数据来自杜克大学 arXiv:2510.01260 论文(ACM WiNTECH 2025);SensorMCP 与 AutoEmbed 来自香港中文大学、香港城市大学公开资料;端侧模型数据来自 Liquid AI 及各厂商公开报告;市场数据来自 Omdia 2026 年 10 月调查。涉及具体产品、版本与数据,以官方信息为准(截至 2026 年 10 月)。
更多推荐


所有评论(0)