【教程分享】飞腾派部署DeepSeek-r1:1.5b模型!轻松拥有专属智能AI!
飞腾派部署DeepSeek-r1:1.5b模型
最近DeepSeek爆火,成功吸引了大众的目光,也让大家对国产AI的关注度持续攀升,DeepSeek作为国产AI领域的杰出代表之一。它不仅在语言理解、文本生成、知识问答等任务上表现出色,还具备强大的学习能力和适应性,能够快速适应多种应用场景。而飞腾派作为一款国产自主可控的开源硬件,凭借其高性能和灵活的开发环境,同样是众多开发者探索创新的选择。今天就给大家分享一个在飞腾派上部署DeepSeek-r1:1.5b模型的教程,让我们一起体验国产AI智能发展带来的无限可能吧!
教程详情
一、安装ollama
为了让大家更高效地完成部署,我们提供了ollama的在线安装方法
只需要输入下载指令即可进行在线安装。
curl -fsSL https://ollama.com/install.sh | sh
二、配置服务器
配置组
sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
创建服务,使用 vim 创建 /etc/systemd/system/ollama.service 并加⼊以下内容
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
[Install]
WantedBy=default.target
启动服务器
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl restart ollama
查看 ollama 服务,可以看到已经正常启动
三、运行deepseek-r1:1.5b
首次运行deepseek-r1:1.5b,会自动在线下载模型。
ollama run deepseek-r1:1.5b
由于近期DeepSeek太火爆,在线下载过于拥堵可能会出现失败的情况,多尝试几次即可。
sudo tar -xzvf models.tar.gz -C /usr/share/ollama/.ollama
下载成功后,再次输入启动指令
ollama run deepseek-r1:1.5b
部署成功!尝试提问测试
回答正确!飞腾派成功运行DeeSeek模型啦!现在大家可以充分利用飞腾派硬件优势,持续培训 DeepSeek,挖掘模型的更多潜力,探索更多创意应用,期待大家创造出精彩的成果!
飞腾派V3 现货支持
飞腾派V3 现货发售,支持全四口USB 3.0接口,PWM智能调速散热风扇,国标/美标耳机自动识别等功能,售价649元包邮。
https://www.iceasy.com/product/1875487334855221250
飞腾派资料下载专区
提供飞腾派相关资料下载,包括开发板手册、开源项目文档等。
https://www.iceasy.com/cloud/Phytium?pid=1877646941793374213
开源口碑案例分享
可参考飞腾派开发板的用户评价和社区反馈。
https://www.iceasy.com/review/list