Jetson Orin NANO/NX模组升级Super 模式介绍
将生成式AI概念变为现实
全新 Jetson Orin Nano Super 开发者套件做出了以下改进:
生成式 AI 性能提升至 1.7 倍
稀疏计算性能从之前的 40 TOPS 大幅提升至 67 TOPS
内存带宽从之前的 65 GB/s 大幅提升至 102 GB/s
CPU 时钟频率从 1.5 GHz 提升至 1.7 GHz
购买链接:https://s.iceasy.com/1uWxkc
NVIDIA近日发布了JetPack 6.2版本,为Jetson Orin Nano和Orin NX模组引入了令人瞩目的超级模式(Super Mode)支持。此次更新不仅集成了基于Linux Kernel 5.15和Ubuntu 22.04根文件系统的Jetson Linux 36.4.3版本,更在性能上实现了显著提升。
在超级模式下,Jetson Orin NX系列模组的AI TOPS(每秒万亿次操作数)性能跃升了高达70%,而Jetson Orin Nano系列模组同样取得了可观的性能提升,内存带宽更是增加了50%。这一系列的性能改进,使得Jetson Orin模组在生成式AI推理领域的表现提升了两倍之多。
JetPack 6.2的亮点不仅限于性能提升:
全新电源模式:为Jetson Orin Nano和NX生产模块提供了新的参考电源模式,包括MAXN SUPER模式,使得生成AI性能得以翻倍(需配合新的刷机配置使用)。具体而言,NVIDIA Jetson Orin Nano 4GB和8GB分别支持10W/25W/MAXN SUPER和15W/25W/MAXN SUPER模式;而NVIDIA Jetson Orin NX 8GB和16GB则分别支持10W/15W/20W/40W/MAXN和10W/15W/25W/40W/MAXN模式。
安全修复:修复了CVE漏洞及若干小错误,提升了系统的安全性与稳定性。
注意事项:
MAXN SUPER模式是一种无限制电源模式,允许CPU、GPU、DLA、PVA和SOC引擎充分发挥性能。然而,当模组总功率超过热设计功率(TDP)预算时,系统将自动降低频率以维持热稳定性,可能导致性能下降。因此,建议用户根据自身应用需求创建自定义电源模式,以在功耗与性能之间找到最佳平衡点。
Jetson Orin NX模组在超级模式下不应与Jetson Orin Nano开发者套件一起使用,因为该套件未设计为满足此配置的热要求。
安装与启用指南:
您可以通过以下方式安装JetPack 6.2并启用超级模式:
1.SDK Manager:适用于全新安装JetPack 6.2。请注意,SDK Manager仅支持Jetson Orin Nano开发者套件的默认超级模式闪存配置。
参考下载安装链接:SDK Manager | NVIDIA Developer
2.SD卡:适用于Jetson Orin Nano开发者套件。根据当前运行的JetPack版本,从JetPack SDK页面下载SD卡映像,并按照入门指南进行操作。
参考链接:
Jetson Orin Nano 开发者套件入门 | NVIDIA 开发者
3.Debian软件包:适用于已安装JetPack 6的Jetson AGX Orin或Nano开发者套件。使用APT升级到JetPack 6.2。但请注意,从JetPack 6.0/6.1直接升级到6.2不会启用超级模式;需从支持超级模式的JetPack 6.1 Rev1升级。
4.手动刷机:适用于偏好命令行安装的用户。在Linux主机上刷机后,可通过SDK Manager或运行sudo apt update和sudo apt install nvidia-jetpack来安装计算堆栈。
参考链接:Jetson Linux | NVIDIA DeveloperQuick Start — NVIDIA
Jetson Linux Developer Guide 1 documentation
Flashing Support — NVIDIA Jetson Linux Developer Guide 1 documentation
重要提示:
新的电源模式需使用新的刷机配置(如jetson-orin-nano-devkit-super.conf)方可启用。刷机或更新到JetPack 6.2后,可通过运行sudo nvpmodel -m命令(对应模组选择相应的模式编号)来启用超级模式,或在系统待机界面的电源模式菜单中进行选择。
此次JetPack 6.2的发布,无疑为NVIDIA Jetson平台注入了新的活力,为用户带来了更加高效、强大的AI推理能力。