开源生成式 AI 模型不再局限于数据中心,而是开始深入到现实世界的各种机器中。从 Orin 到 Thor,NVIDIA Jetson 系列正在成为运行 NVIDIA Nemotron、Cosmos 和 Isaac GR00T 等模型以及千问大模型、Gemma、Mistral AI、GPT-OSS、PI 等社区模型的通用平台。

在今年初的 CES 展会上,卡特彼勒展示了 Cat 306 CR 小型挖掘机。其 Cat AI Assistant 运行在 NVIDIA Jetson Thor 平台上。为了实现快速准确的自然语音交互,该系统采用了 NVIDIA Nemotron 语音模型,同时借助 Qwen3 4B,可以通过 vLLM 本地服务,确保无云连接的情况下,以低延迟解析请求并生成响应。

除了推动企业创新,开放模型还为开发者开辟了自由构建与实验的广阔空间。基于 NVIDIA Jetson,开发者可打造个人全天候在线的边缘 AI 助手。
云部署会带来延迟成本和持续的计算成本,而物理系统需要低延迟、功耗受控以及稳定一致的行为。NVIDIA Jetson 通过将计算单元与内存集成于单个系统级模块(SoM)中,不仅加速了客户的硬件设计进程,也使元器件采购与验证比采用分立方案更为高效可靠。
NVIDIA Jetson 已成为在边缘端运行开放模型的通用平台。它全面支持各类开放模型与 AI 框架,开发者可在边缘端灵活部署几乎任何生成式 AI 工作负载。同时,Jetson Thor 在所有主流生成式 AI 模型上均提供领先的推理性能。
性能飞跃:把超级计算机装进口袋
▶ NVIDIA:AI算力开发旗舰
作为AI开发领域的领军品牌,NVIDIA旗下有库存型号覆盖边缘计算到数据中心全场景,搭载顶尖GPU技术,算力与稳定性双优。

Jetson Orin Nano Super开发套件
生成式AI超级计算机
67 TOPS(INT8)算力,支持8K视频解码,接口丰富(M.2 NVMe、千兆网)。适用于边缘AI计算、智能机器人、工业机器视觉,是移动设备开发的性价比之选。

JETSON AGX THOR DEVELOPER KIT
旗舰级边缘AI板卡开发套件
2000 TOPS(INT8)超强算力,支持多模态AI处理与DRIVE OS系统。专为自动驾驶感知、高阶机器人控制、边缘AI服务器等重算力场景设计,现在申请初创企业折扣,最高可减免5000元,联系客服马上申请!

NVIDIA DGX Spark(4TB)
桌面级AI超级计算机
由NVIDIA GB10 Grace Blackwell超级芯片驱动,NVIDIA DGX™ Spark以节能高效和紧凑外观,具备1 petaFLOP 的AI性能。