深度学习的训练和推理流程，是先采用高性能图形服务器使用深度学习框架来训练（Training）机器学习算法，研究大量的数据来学习一个特定的场景，完成后得到模型参数，再部署到终端执行机器学习推理（Inference），以训练好的模型从新数据中得出结论。

一般的深度学习项目，训练时为了加快速度，会使用多 GPU 分布式训练。但在部署推理时，为了降低成本，往往使用单个 GPU 机器甚至嵌入式平台进行部署。Jetson Nano 可以完成整个训练和推理流程，但基于 Jetson Nano 的低算力，不推荐在 Jetson Nano 上进行复杂训练，而仅用于推理。

NVIDIA® Jetson Nano™ 开发者套件是一款面向创客、学习者和开发者的人工智能计算机。官方入门级深度学习教程 Jetson Inference（Hello AI World）仓库使用 NVIDIA TensorRT 将神经网络有效地部署到 Jetson 平台上，以体验三种最常见的计算机视觉 AI——图像识别、对象检测、和语义分割。

《Jetson Nano 2GB 开发套件动手玩》已经介绍了 Jetson Nano Developer Kit 的安装和配置，《Jetson Nano 人工智能开发者套件》也介绍了硬件的基本信息，本实践实际是将利用高算力训练获得的模型参数部署到边缘设备执行深度学习推理的过程。

2019 年 3 月， NVIDIA 在 TX2 和 Xavier 获得成功后推出了最初的低配版 Jetson NANO 开发者工具包，广泛应用于机器人、零售、工业、农业和人工智能 OT 等各个领域。2020年10月，NVIDIA 宣布了 Jetson Nano 2GB 开发者套件 ，价格为 59 美元，这使得它对于学习人工智能和机器人技术来说更加实惠。通过 128 核 NVIDIA Maxwell GPU 和 64 位四核 Arm A57CPU 提供 472 GFLOPS 的算力，对比 Jetson 系列的高级版 AGX Xavier 提供 32 TOPS 的算力，约是后者的 1/60（FLOPS和OPS是有差异的算力概念，姑且等同视之），可以使用一些小规模、并且优化过的框架和网络进行推理，并应用于算力要求较低的边缘嵌入式AI设备中，如小型移动机器人、人脸签到打卡、口罩识别、智能门锁、智能音箱等。相校其他单板计算机架构配置较低（如 A53 的 CPU 对比树莓派4的 A72），但独特优势是在低价位上具有专用 GPU 加速处理器，CPU可以通过CUDA框架在GPU上调用CUDA功能，从而实现并行计算的可能性。

在本站的数据科学（DS）栏目中介绍了《Jetson Nano 人工智能开发者套件》的硬件信息，以下准备以“无头模式”来动手开箱使用 Jetson Nano 2GB Developer Kit，全新套件包括载板，以及已经安装在载板的模块（P3448-0003）。

本文提供STEAM常见硬件的图谱，以便直观认识相关板卡及接口。

NVIDIA® Jetson Nano 是一款功能强大的人工智能（AI）开发板，可在图像识别、对象检测、语义分割和语音处理等应用中并行运行多个神经网络，助你快速入门学习 AI 技术，并将其应用到各种智能设备上。相校树莓派一类单板计算机的优势是具有专用 GPU 加速处理器，CPU可以通过CUDA框架在GPU上调用CUDA功能，从而实现并行计算的可能性。

针对教育机构、学生和初学者，英伟达在原来 Jetson Nano Developer Kit（B01，4GB）的基础上推出了简化版本 Jetson Nano 2GB Developer Kit，以更低的价格（$54.00）服务世界各地的创客、学习者和嵌入式开发者。

对于单板计算机，Raspberry Pi是无可争议的重量级冠军。当然，它不是功能最强大，结构最紧凑的产品，甚至不是最便宜的产品，但它的销售量超过3000万个，因此其奉献者众多。当前版本是Raspberry Pi 4 ModelB。最重要的规格是1.5GHz 64位四核处理器，千兆位LAN，蓝牙5.0 / BLE，甚至支持以太网供电。Raspberry Pi首次配备了1 GB，2 GB或4 GB RAM的选择。

Raspberry Pi在单板计算机方面开创了先河，随之而来的是许多模仿者。

在2018年于旧金山召开的 Google Next 大会上，Injong Rhee 通过主题演讲披露了谷歌公司的两款全新硬件产品：一款开发单片，外加一款 USB 加速棒。作为这两款产品的核心，谷歌的 Edge TPU（Edge Tensor Processing Unit，Google 专门为在边缘进行推理运算而打造的 ASIC） 扮演着关键角色——这款专用 ASIC 旨在将机器学习推理能力引入边缘设备。

2019年3月6日，Google发布本地AI开发平台Coral。Coral是一个使用本地AI构建智能设备的平台，提供了一个完整的本地AI工具包，可轻松将您的想法从原型扩展到生产。它包括硬件组件，软件工具和内容，可帮助您在设备上本地创建，训练和运行神经网络（NN）。

Intel® Movidius™ Neural Compute Stick (NCS) 是一款微型无风扇深度学习USB驱动器，设计用于学习AI编程。NCS由低功耗高性能Movidius™视觉处理单元 (VPU) 供电。VPU已广泛用于数百万智能安防摄像机、手势控制无人机、工业机器视觉设备等应用。