实测用JetsonOrinNano运行Deepseek

发布时间:2025-03-01

Nvidia Jetson Orin nano 开发板已升级到 super 模式,已升级到 SSD 固态硬盘启动(升级方法见另外一篇),电源 MAXN super 模式。运行 deepseek 1.5B 模型很轻松,尝试运行 8B 模型。

jtop 显示系统状态如图。每秒 6 个 token,6个CPU的平均占用率 55% 左右,GPU占用率波动很大,8G内存跑满外加 1.3G的交换空间。

系统一直在报警,超载超载超载。。。

试着运行deepseek 14B模型,跑不起来。

以下为8B模型运行时的jtop实时数据。

本文转载自 微信公众号 集野草