使用 NVIDIA Jetson Orin 加速视频分析开发
将来自数万亿个 IoT 传感器的数据转化为有价值的见解
随着全球超过 10 亿台网络摄像机（部署最广泛的 IoT 传感器之一）的使用，基于 AI 的边缘视频分析已成为许多行业的关键。这些系统增强了安全性、管理流量并从摄像机捕获实时数据，分析每一帧以提取关键事件并安全地存储它们。这使企业能够从视频流中获得有价值的见解。但是，大量的视频内容难以管理。由于时间和资源有限，负责分析的团队通常难以审查所有素材，而且人为错误始终是一种风险，导致许多视频数据未得到充分利用。
在这篇博客中，我们将介绍 NVIDIA Jetson Orin 平台如何加速视频分析解决方案的开发。我们将通过检查支持多个视频流的硬件设计和性能来解释为什么 Jetson 是理想的选择。值得注意的是，NVIDIA 的生态系统加快了企业将产品推向市场的工程时间。最新的 JetPack 6 更新引入了 Jetson Platform Services，这是一种模块化架构，具有全面的可定制软件和可重用微服务集合，用于构建视觉 AI 应用程序。它为基础设施功能提供基础服务，提供用于生成见解的 AI 服务，以及用于安全边缘到云连接的参考云。
硬件设计和性能：支持多个视频流
NVIDIA Jetson Orin 是处理多个摄像头和复杂 AI 视频分析任务的理想选择，尤其是在高性能、低延迟和高效、紧凑设计至关重要的边缘计算场景中。虽然服务器仍然是大规模部署的主流选择，但 NVIDIA Jetson Orin 为边缘计算场景提供了平衡的解决方案，通过高效、紧凑的硬件提供高实时性能。例如，Jetson Orin NX 16GB 可以处理多达 18 个 1080p30 流，使其适用于超市、加油站和零售店等中型场景。
具有专用 GPU 的边缘服务器通常用于视频分析，因为它们旨在处理大规模视频流，包括高分辨率 （4K） 或多个 1080p 视频流。但是，对于少于 100 个流的小型设置，它们并不经济，因为边缘服务器的功耗更高，并且需要更复杂的系统集成。另一方面，低计算能力处理器（如微控制器）在视觉 AI 解决方案中也很受欢迎，但适用于不需要实时分析且仅涉及单流检测的场景。这些处理器通常发送图像数据而不是视频流，因此不太适合复杂的实时视频分析任务。
要确定适合您项目的帧速率以及可以连接到一台设备的最大摄像头数量，请查看我们的 wiki 教程，了解如何将摄像头数量与模型性能基准进行比较，作为参考。
（具有计算能力基准的 Jetson 解码能力）
释放并行处理的潜力：运行多个深度学习模型
NVIDIA Jetson Orin 系列旨在在并行计算方面表现出色，提供强大的并发处理能力。例如，考虑使用视频分析解决方案进行流量分析和区块调度。如此复杂的任务无法仅靠单个对象检测模型来解决。���了全面了解当前的交通状况，必须集成多个 AI 任务，包括通过峰谷交通流量分析进行拥堵预测、车辆计数和分类、车牌识别、非法转弯检测和人行横道检测。每个任务都需要特定的 AI 模型或算法。因此，关键问题是：当同时运行多个模型时，您的边缘设备的性能如何？
Jetson Orin 系列提供高达 275 TOPS 的 AI 性能（参见 Jetson MLPerf 推理基准测试），拥有优于大多数其他嵌入式 AI 系统的卓越 GPU 功能。这种强大的 AI 功能使其不仅可以处理计算机视觉模型，还可以运行视觉语言模型 （VLM） 等大型模型，通过将视觉模态与 LLM 相结合，实现对图像和视频的语义理解。在此博客上详细了解使用 NVIDIA Jetson Orin 在视频分析中生成式 AI 的未来。有关与 NVIDIA Jetson 设备兼容的实用开发软件解决方案，请访问我们的视频分析解决方案页面以开始使用。
reServer Jetson Orin 系列：AI NVR 的本地推理中心设计
对于处理复杂的模型和大量的数据输入，我们推荐 reServer Jetson Orin 系列，这是一个 AI 推理中心，由于其功能，以最少的维护实现最佳的隐私保护：
足够的本地存储空间： 配备 2 个用于本地 SSD/HDD 的驱动器托架，它可以在完全本地运行时临时缓存视频片段。对于长期存储，它可以通过在云中仅存储关键事件来帮助管理云传输带宽。
混合连接： 包括 5 个 RJ45 GbE，用于多个实时处理流。其中 4 个端口是 802.3af PSE，允许您集成电源和数据传输端口，以实现更好的布局设计。
具有强大 NVIDIA 生态系统的加速开发
边缘计算集成了各种技术和组件，包括硬件、操作系统、网络和数据处理。这种复杂性通常会导致开发周期延长和项目风险增加，尤其是在构建复杂的 AI 应用程序时。开发人员需要跨学科技能和深厚的 AI 技术专业知识来应对这些挑战，例如系统复杂性、硬件兼容性和软件开发周期。
Jetson 平台服务简介：一种新的模块化和灵活的架构
为了解决开发人员对应用程序开发的焦虑，NVIDIA 推出了 Jetson 平台服务 （JPS）。JPS 是 NVIDIA JetPack SDK 的一部分，专为 NVIDIA Jetson 模块而设计，为构建端到端加速 AI 应用程序提供了全面的解决方案。JetPack 6 版本通过引入微服务和一系列新功能，进一步增强了 Jetson 平台的灵活性和可扩展性，使其成为 2024 年最受欢迎的 JetPack 版本。
Jetson Platform Services 就像一个一体化工具箱，为构建视觉 AI 应用程序提供强大的支持。JPS 采用模块化架构，其中包括许多可定制的软件组件和可重用的微服务。这些微服务就像构建块，开发人��可以自由���合它们，为视觉 AI 应用程序创建各种功能。
在这个工具箱中，开发人员可以找到各种实用的微服务。例如，Video Storage Toolkit （VST） 有助于轻松管理来自摄像机的视频流。基于 NVIDIA DeepStream 的 AI 感知服务使用先进的深度学习技术，使机器能够像人类一样“理解”世界。此外，还有生成式 AI 推理服务和分析服务，为 AI 应用程序提供强大的洞察和分析能力。
现场部署的成功用例
安全管理： 部署为 AI NVR，以完成家庭/整个工作空间的入侵检测。查看我们为意大利 20 个地点的汽车经销商仓库实施的安全解决方案。
零售运营管理和客户分析：通过人数统计、客户偏好分析、热图跟踪、队列管理、人员分配、缺货警报等解决方案增强零售运营。通过我们的生态系统 ISV 合作伙伴 Isarsoft 查找有关如何根据客户选择获得可操作见解和营销策略的更多详细信息。
流量分析：实施多角度车辆检测、车牌检测、交通流量监控、停车场占用检测、违章转弯、越线等。了解我们的解决方案，了解如何使用无代码 Lumeo AI 平台构建您自己的智能交通解决方案。
这些只是一些最新流行的视觉 AI 解决方案。发现更多展示全球成功部署的案例研究！
点击下方链接即可了解详情下单！
NVIDIA品牌专区： https://s.iceasy.com/1uJAEX
Jetson AGX Orin 64GB开发套件： https://www.iceasy.com/3324/1023765525.shtml
NVIDIA Jetson Orin Nano 开发套件： https://www.iceasy.com/3324/1023765524.shtml