Jetson Edge AI 实战01:Nano、Xavier、Orin 怎么选?Jetson 硬件选型详解【视频讲解】

这几年做嵌入式,一个很明显的变化是:以前更多关注 Linux、驱动、网络和多媒体,现在越来越多项目开始把 AI 直接放到设备端。

工业视觉、机器人、智能相机、无人机这些场景,已经不只是要求“Linux 能跑起来”,还需要在设备本地完成目标检测、图像处理和 AI 推理。

最近我把之前录制的一套 Jetson 边缘计算与嵌入式开发课程重新整理出来。第一讲没有急着上 CUDA、TensorRT,也没有直接跑模型,而是先解决一个最基础的问题:

Jetson 到底是什么?Nano、Xavier、Orin 有什么区别?实际项目应该怎么选?

在这里插入图片描述

本系列后续主要使用 Jetson AGX Orin 64G Kit 作为实践平台。课程第一讲本身也正是围绕 Jetson 产品体系、型号差异、AGX Orin、TOPS/FPS 以及硬件接口展开。

👉 点击这里直接进入 B站观看本节完整视频

B站搜索:嵌入式孙老师


Jetson 在 NVIDIA 产品体系里是什么位置?

很多嵌入式工程师第一次接触 NVIDIA,首先想到的还是显卡,比如 RTX 4060、4090,或者服务器里的 H100、H200。

实际上 NVIDIA 的产品跨度很大,从桌面 GPU、专业 GPU、数据中心 GPU,一直到车规 SoC 和边缘 AI。

在这里插入图片描述

这里我们重点看 Jetson

Jetson 是 NVIDIA 面向边缘 AI 的嵌入式计算平台。它并不是简单把 GPU 缩小,而是把 CPU、GPU、AI 加速、多媒体以及大量嵌入式接口整合到一个平台里。

如果站在传统嵌入式开发的角度,可以先简单理解成:

Linux + GPU + AI + 摄像头 + 网络 + 存储 + 外设接口

所以 Jetson 很适合机器人、工业视觉、智能相机等既需要嵌入式 Linux,又需要现场 AI 计算的设备。


Nano、Xavier、Orin 到底怎么理解?

Jetson 发展到现在,型号已经不少:

Jetson Nano、Xavier NX、Orin Nano、Orin NX、AGX Orin……

刚开始接触时确实容易乱,其实没必要一开始就背大量参数,先把产品定位看懂。

在这里插入图片描述

从整体产品演进来看,可以先建立这样一个大致关系:

Nano → Xavier → Orin

而 Orin 系列内部又可以继续理解成:

Orin Nano → Orin NX → AGX Orin

简单来说:

  • Jetson Nano:偏入门、教学和轻量 AI;
  • Xavier NX:上一代中端平台,很多存量项目仍然在用;
  • Orin Nano:新一代高性能入门平台;
  • Orin NX:更适合多摄像头、机器人和视频 AI;
  • AGX Orin:面向更复杂的工业 AI、多模型和高性能计算场景。

如果现在开始一个新的 Jetson 项目,我会更加关注 Orin 系列

但真正做选型,不能只看“谁性能最高”,还要结合模型大小、摄像头数量、内存、功耗以及最终成本一起判断。


Jetson 和 RK3588、树莓派有什么不同?

边缘计算当然不只有 Jetson。

实际项目里,我们还经常碰到 RK3588、Raspberry Pi、Intel NUC 等平台。

在这里插入图片描述

我的理解比较直接:

平台没有绝对的好坏,关键看项目到底需要什么。

如果项目主要是 Linux、UI、视频、多媒体,再加一些轻量 AI,很多 ARM SoC 都可以完成。

但如果项目大量依赖:

CUDA、TensorRT、GPU 并行计算、多模型推理、多摄像头视觉,以及 NVIDIA 的机器人和 AI 软件生态

那么 Jetson 的优势就会比较明显。

它真正的价值,不只是一个 TOPS 数字,而是背后一整套软硬件生态。


AGX Orin 模组和开发套件,不是一回事

刚接触 Jetson 时,还有一个很容易混淆的问题:

Jetson AGX Orin Module

Jetson AGX Orin Developer Kit

到底有什么区别?

直接看图最清楚。

在这里插入图片描述

模组

模组是真正的核心计算单元。

CPU、GPU、内存等主要资源都集中在模组里面。

真正做机器人、工业相机或者其他量产产品时,常见形式通常是:

Jetson 模组 + 自定义载板 + 自己的外围硬件

所以模组更接近最终产品。

Developer Kit

Developer Kit 主要用于开发、学习和验证。

官方已经把供电、网络、USB、M.2、显示、摄像头等接口准备好了,拿到以后可以比较快地开始软件开发。

实际工程里经常就是:

官方开发套件验证 → 功能跑通 → 自定义载板 → 产品化

这一点和传统嵌入式开发没有本质区别。


275 TOPS 到底是什么意思?

提到 Jetson AGX Orin,经常会看到一个参数:

最高 275 TOPS。

TOPS 可以简单理解成每秒能够完成多少万亿次 AI 运算。

但是实际项目里,我觉得一定要把 TOPS 和 FPS 分开理解。

在这里插入图片描述

可以先记住一句:

TOPS 更偏理论 AI 运算能力,FPS 更接近模型真正跑起来后的处理速度。

比如:

30 FPS,表示每秒大约处理 30 帧图像。

60 FPS,表示每秒大约处理 60 帧图像。

但实际 FPS 还会受到很多因素影响:

模型大小、输入分辨率、TensorRT 优化、CPU 前后处理、GPU 使用率、内存带宽等。

所以做真实项目时,我更关心的问题往往不是:

这块板是多少 TOPS?

而是:

我的模型放到这块板上,实际上能够稳定跑多少 FPS?

这才更接近真实工程。


做边缘 AI,不能只看 AI 算力

以 AGX Orin 为例,除了 AI 算力,本身还有 CPU、CUDA Core、Tensor Core、LPDDR5 内存以及硬件视频编解码等资源。

特别是做多路摄像头时,整个数据链路可能是:

Camera → ISP → 内存 → CUDA / TensorRT → AI 推理 → 编码 → 网络 / 存储

这里任何一个地方出现瓶颈,最终效果都会受到影响。

所以我一直觉得:

边缘 AI 到最后仍然是系统工程。

并不是把一个模型跑起来就结束了。


接口资源同样重要

Jetson 最终还是要进入实际设备。

所以传统嵌入式开发里的问题,一个都不会少:

摄像头怎么接?

SSD 怎么接?

有没有 UART、I²C、SPI?

网络怎么传?

系统怎么进入 Recovery 烧录?

在这里插入图片描述

AGX Orin 开发套件上,可以看到很多嵌入式工程师熟悉的资源:

GPIO、I²C、SPI、UART、PWM、MIPI CSI-2、USB、Ethernet、M.2、Recovery、DisplayPort 等。

所以从这个角度看,Jetson 并没有离传统嵌入式越来越远。

以前我们可能主要在做:

Linux + 驱动 + 摄像头 + 网络 + 存储

到了 Jetson 上,只是在这些基础上继续增加:

CUDA + TensorRT + AI

以前积累的 Linux、驱动、多媒体和系统能力,在边缘 AI 时代依然非常有价值。


真正做项目,我会怎么选?

如果只是学习,可以根据预算选择合适的平台。

但如果是真实项目,我建议先不要急着比较 TOPS,而是先把这些需求列出来:

  • 跑什么模型?
  • 需要几路摄像头?
  • 分辨率和帧率是多少?
  • 是否需要硬件编码和录像?
  • 是否运行 ROS、SLAM?
  • 需要多少内存?
  • 整机允许多大功耗?
  • 是做 Demo,还是准备量产?
  • 最终是否需要自己设计载板?

这些问题确定以后,再去判断:

Orin Nano、Orin NX,还是 AGX Orin。

真正的硬件选型不是:

哪块板性能最高?

而应该是:

哪块板能够稳定满足我的项目,同时成本、功耗和产品形态也合适。


完整视频讲解

本文对应:

《Jetson Edge AI 实战》第01讲:如何选择合适的 Jetson 硬件》

视频里把:

NVIDIA 产品体系 → Nano / Xavier / Orin → AGX Orin → TOPS / FPS → Module / Developer Kit → 硬件接口

完整串了一遍。

文章适合快速阅读和后续查资料,视频更适合把这些概念一次串起来。

👉 点击这里直接进入 B站观看完整视频

B站搜索:嵌入式孙老师

后续整个 Jetson Edge AI 实战系列还会继续整理,包括 Jetson 软件环境、Linux、AI 模型部署、摄像头、多媒体、Yocto 以及设备安全等工程内容。

觉得内容有帮助,欢迎点赞、收藏支持。需要视频对应的 PPT、代码以及详细学习资料,也可以联系本人获取。


第一讲主要还是先把 Jetson 的硬件体系理顺。

把 Nano、Xavier、Orin,以及 Module、Developer Kit、TOPS、FPS 这些基础概念弄清楚,后面再进入 JetPack、CUDA、TensorRT 和实际 AI 应用,就容易串起来了。

👉 继续进入 B站观看《Jetson Edge AI 实战01》完整视频

All in AI,不如走向边缘🌞

Logo

作为“人工智能6S店”的官方数字引擎,为AI开发者与企业提供一个覆盖软硬件全栈、一站式门户。

更多推荐