资讯分类
全部资讯
最新活动
商城公告
行业信息
新品推荐
元器件知识
资讯标签
艾迈斯欧司朗(96) 英伟达NVIDIA(70) 艾为awinic(45) 飞腾派V3(37) 萤火工场(30) 罗彻斯特电子(28) Jetson Orin Nano SUPER 开发套件(21) 资料下载专区(18) 艾为 awinic(15) 进迭时空(15) 兆易创新(14) 赛昉科技(StarFive)(12) 灵动微电子(11) 小华半导体(9) 日清纺微电子(9) Seeed矽递科技(8) 上海雷卯Leiditech(8) 赛昉科技(8) 微源半导体 LPSemi(8) NVIDIA(8) 龙芯中科(7) GD32VW553-IOT(7) 物奇WuQi(7) 庆科(5) 开源口碑分享(5) 日清纺微电子Nisshinbo(5) 飞腾派(4) 创捷电子(4) TROQ创捷电子(4) 航顺芯片(4) CEM5826-M11(4) Geehy极海半导体(4) FTHR-G0001(3) 罗彻斯特(3) 飞腾派eMMC(3) iCEasy商城(3) MM32SPIN060G(3) 一件包邮专区(3) 极海(2) 中国星坤(2) 极海半导体(2) 小华EVB-HC32F4A0开发板(2) 国产开源硬件(2) 杭晶(HCI)(2) 野火(2) Mini-SPIN0230(2) NVIDIA品牌专区(2) 华润微电子(2) 口碑评测(2) EVB-L0130(2) 教育优惠申请链接(2) 启明云端(2) 弈安云(2) 飞腾官网飞腾派(2) 村田(2) 飞腾派下载专区(2) 英伟达初创加速计划(2) 8月7日竞拍竞买(1) 飞腾派V3版本上新(1) 飞虹半导体(1) MUSE Paper(1) 乐动机器人(1) 海凌科电子(Hi-Link)(1) VF202040-A0(1) 教育优惠(1) 萤火工场GD32VW553-IOT(1) 野火RK3566开发板(1) 润石(1) 格力新元(1) CEM5825F(1) COMBO模组 EMC3020-PZI5(1) 松科智能(1) Jetson AGX Thor 开发套件/模组(1) Mini-F5333(1) 微源半导体(1) 周年抽奖活动(1) 庆科信息(MXCHIP)品牌专区(1) 附件(1) 华大北斗(1) GD32无线生态专区(1) JETSON_AGX_ORIN_64GB_DEVELOPER_KIT(1) QCS6490 SOM EVB开发板(1) 附件下载地址(1) 迈巨微(1) 雷克沙(1) GD32VW553-IOT V2版本(1) QCS8550 SOM EVB开发板(1) 申请样片:高光效红光OSCONIQ® P 3030, GR QSSPA1.23(1) 台容积电(1) GD32VW553-IOT V2(1) CEM5881-M11(1) NVIDIA Jetson Orin Nano 开发套件(1) 萤火工场品牌专区(1) 商城下载专区(1) Jetson AGX Orin 64GB开发套件(1) 荣湃半导体(2Pai Semi)品牌专区(1) 进迭时空品牌页(1) 飞腾人才赋能(1) Jetson AGX Xavier(32GB)(1) BeagleBoard.org®(1) 社区评奖活动(1) Arduino UNO Rev 4 Minima开发板(1) 下载专区(1) B站风扇视频(1) 国产自主可控(1) 英伟达 NVIDIA(1) CEM5861G-M11(1) 赛昉科技9折活动券(1) NVIDIA Jetson Orin Nano 开发套件(1) Arduino品牌专区(1) NVIDIA DGX™ Spark:桌面级AI超级计算机(1) 品牌清仓(1) QCS8550 SOM EVB(1) Jetson AGX Orin 64GB开发套件(1) 24GHz毫米波雷达模块(1) 技术问答专区(1) 英特尔(1) NVIDIA Jetson Nano 模组(1) QCS6490 SOM EVB(1) 天微电子商家页(1) 国产毫米波雷达模块(1) 瑞隆源产品(1) 龙芯教育派(1) CEK8902-S905D3(1) EV Board (MM32L0136C7P)(1) 迈巨微电子品牌专区(1) 飞腾派专链(1) 世野(Khadas)(1) 618大促(1) 竞买活动(1) 雷卯(1) 飞腾派试用申请链接(1) BeagleBone Black快速入门指南(1) 样片申请(1) NVIDIA NIM(1) 微雪电子(1) 一件免邮专区(1) SFH 7018B(1) 极海半导体(Geehy)(1) Arduino品牌页(1) 飞腾派调研问卷链接(1) 小脚丫(1) 618大促专区(1) 艾为(AWINIC)(1) 英伟达 NVIDIA品牌专区(1)

NVIDIA NIM 微服务现已推出,可简化 RTX AI PC 和工作站上的智能体工作流

发布时间:2025-04-09

生成式 AI 为 PC 和工作站带来了全新功能,包括游戏助手、增强的内容创作和生产力工具等。

现已推出的 NVIDIA NIM 微服务和即将推出的 AI Blueprints 可加速 AI 开发和提升其可用性。NVIDIA NIM 于 1 月在 CES 上推出,提供针对 NVIDIA RTX 平台优化的预打包先进 AI 模型,包括 NVIDIA GeForce RTX 50 系列及全新 NVIDIA Blackwell RTX PRO GPU。微服务易于下载及运行。微服务涵盖了顶级 PC 开发模态,并与顶级生态系统应用和工具兼容。

在计算领域的关键时刻,突破性的 AI 模型和全球开发者社区正在推动 AI 赋能工具和工作流的爆炸式增长,NIM 微服务和 AI Blueprint 正助力为 PC 带来关键创新。


NIM 助您马上出发


尽管 AI 的创新速度惊人,但 PC 开发者社区仍然很难上手这项技术。

将 AI 模型从研究引入 PC 需要模型变体管护、输入输出数据的自适应管理和量化以优化资源的使用。此外,模型必须转化为与优化的推理后端软件配合使用,并连接到全新的 AI 应用编程接口(API)。这需要付出巨大的努力,可能会减缓 AI 的普及。

NVIDIA NIM 微服务通过提供预打包、经优化,易于下载且连接到行业标准 API 的 AI 模型,帮助解决了这一问题。它们针对 RTX AI PC 和工作站上的性能进行了优化,并包含了来自社区的顶级 AI 模型以及 NVIDIA 开发的模型。

NIM 微服务支持各种 AI 应用,包括大语言模型(LLMs)、视觉语言模型、图像生成、语音处理、基于检索增强生成(RAG)的搜索、PDF 提取和计算机视觉。提供十种面向 RTX 的 NIM 微服务,支持各种应用,包括语言和图像生成、计算机视觉、语音 AI 等。


立即访问 https://www.nvidia.cn/ai/ 开始使用以下 NIM:

  • 语言和推理:Deepseek-R1-distill-llama-8B、Mistral-nemo-12B-instruct 和 Llama3.1-8B-instruct
  • 图像生成:Flux.dev
  • 音频:Riva Parakeet-ctc-0.6B-asr 和 Maxine Studio Voice
  • RAG:Llama-3.2-NV-EmbedQA-1B-v2
  • 计算机视觉和理解:NV-CLIP、PaddleOCR 和 Yolo-X-v1


NIM 微服务还可以通过顶级 AI 生态系统工具和框架提供。

对于 AI 发烧友,AnythingLLM 和 ChatRTX 现在支持 NIM,可以通过简单、友好的用户界面轻松与 LLM 和  AI 智能体聊天。借助这些工具,用户可以创建个性化  AI 助手并集成自己的文档和数据,帮助自动化任务并提高生产力。

对于希望构建、测试和集成 AI 到其应用中的开发者,FlowiseAI 和 Langflow 现在支持 NIM,并提供带有视觉界面的低代码和无代码解决方案,以最低限度的编程专业知识设计 AI 工作流。即将推出对 ComfyUI 的支持。借助这些工具,开发者可以轻松创建复杂的 AI 应用,如聊天机器人、图像生成器和数据分析系统。

此外,Microsoft VS Code AI Toolkit、CrewAI 和 Langchain 现在支持 NIM,并提供将微服务集成到应用代码中的高级功能,有助于确保无缝集成和优化。


 NVIDIA AI Blueprint,

提供预构建工作流


NVIDIA AI Blueprint 为 AI 开发者提供了借助 NVIDIA NIM 微服务构建生成式 AI 工作流的先机。

Blueprint(蓝图)是即用、可拓展的参考样本,可以打包所有必要元素(源代码、示例数据、文档和演示应用),以创建和自定义本地运行的高级 AI 工作流。开发者可以修改和拓展 AI Blueprint,以调整其行为、使用不同的模型或实现全新的功能。


PDF 转播客 AI Blueprint 可以将文档转换为音频内容,以便用户可以随时随地学习。通过从 PDF 中提取文本、图像和表格,工作流利用 AI 生成信息丰富的播客。为了更深入地探讨主题,用户可以与由 AI 赋能的播客主持人进行互动式讨论。


借助适用于 Linux 的 Windows 子系统,

在 RTX 上运行 NVIDIA NIM 和 AI Blueprint


使 NIM 微服务能够在 PC 上运行,关键技术之一是适用于 Linux 的 Windows 子系统(WSL)。

微软和 NVIDIA 合作 为 WSL 引入了 CUDA 和 RTX 加速,使在 Windows 上运行优化的、容器化的微服务成为可能。从 PC 和工作站到数据中心和云计算,这使得相同的 NIM 微服务可以随时随地运行。

访问 www.nvidia.cn/ai/,开始在 RTX AI PC 上使用  NVIDIA NIM 和 AI Blueprint。


构建、创造、创新


用于 RTX 的 NVIDIA NIM 微服务 和 AI Blueprint 现已在 www.nvidia.cn/ai/ 提供,为开发者和 AI 发烧友构建 AI 应用提供功能强大、随时可用的工具。


想要了解及购买英伟达产品,请前往iCEasy商城品牌专区:

https://s.iceasy.com/1v3IPp

iCEasy商城欢迎您的到来!