极悦娱乐-科技注册场景,让平台更有趣。

在极悦娱乐NAS上本地化部署DeepSeek-R1大语言模型教程

2025-02-07 极悦娱乐(UGREEN)

1、Deepseek 简介

DeepSeek 是杭州深度求索人工智能基础技术研究有限公司 (成立于2023年7月17日) 研发的推理模型,该模型采用强化学习进行后训练,旨在提升推理能力,尤其擅长数学、代码和自然语言推理等复杂任务。2025年1月20日,DeepSeek 正式发布 DeepSeek-R1 模型,并同步开源模型权重。在(zai)部署(shu) DeepSeek 之前,需要安装 Ollama , Ollama 是大型语言模型框架,可以理(li)解为(wei)AI模型的宿(su)主,如(ru)果需要美观的 UI 界面,需要安装其他应用配合,本教程我们(men)通过部署(shu) OpenWebUI 应用来运行(xing) DeepSeek-R1 模型。

Open WebUI 简介

是一款可扩展的、功(gong)能丰(feng)富的用户友好(hao)型自托管(guan) Web 界面(mian),旨在完全(quan)离(li)线运行(xing)(xing)。它(ta)支持包括(kuo) Ollama 和与 OpenAl 兼容的 API 在内的多(duo)种 LLM 运行(xing)(xing)器。

Open WebUI 的(de)主要特点(dian)

轻松(song)设(she)置(zhi):支持 Docker 和(he) Kubernetes 安装(zhuang),提供便(bian)捷的映(ying)像(xiang)管理。

API 集成:兼容 Ollama 和 OpenAI API,自定义 API URL,适配(pei)多个 LLM 服务如 LMStudio 和 OpenRouter。更多详情请(qing)查(cha)阅 。

2、使用 Docker Compose 部署 OpenWebUI 容器(集成 Ollama)

在 UGOS Pro 系统上(shang),推荐使用项(xiang)目 Docker Compose 快(kuai)速部署容器,适合需同时(shi)管(guan)理(li)多个容器的场景(jing),这种方法简化了容器的部署与管(guan)理(li)工作。以下是使用 Docker Compose 部署 OpenWebUI 的详细步骤。

点击了解:

2.1 进入 Docker 项(xiang)目界面

在(zai) UGOS Pro 系统中,打开 Docker 应用,点击【项目(mu)】 > 【创建】,启动项目(mu)创建向导(dao)。

2.2 配置 Docker Compose 文件

在项目创(chuang)建(jian)向导中,上传(chuan)以下(xia) OpenWebUI 的(de) Docker Compose 配置文件(jian):

 的后台数据en-webui:/app/backend/data  # 存储 Web UI 的后台数据

2.3 参数说明

参(can)数

说明(ming)

image

指定容器镜像版本为 ghcr.io/open-webui/open-webui:ollama,已(yi)集成 Ollama 服务(wu)。如下载速(su)度慢,建议(yi)加速(su)器配置(zhi)添加 。

restart

设定重启策略为 always,确保(bao)容器在崩溃(kui)或停止时自动重启,保(bao)持服务持续运行。

ports

端口映射:将 NAS 的 3000 端口映射到容器的 8080 端口,通过 //NAS_IP:3000 访问(wen) WebUI。

volumes

数据存储映射,确保数据持(chi)久化:

./ollama:/root/.ollama:NAS 本地 ./ollama 目录映射至容器 /root/.ollama,存储 Ollama 数据(ju)。

./open-webui:/app/backend/data:NAS 本地 ./open-webui 目录映射至容器 /app/backend/data,存储 OpenWebUI 后(hou)端数(shu)据。

注意:

  • ./ 表示当前(qian) Docker Compose 文件所在的目录(lu);

  • 冒(mao)号(hao)前(qian)是(shi) NAS 的存储(chu)路径,冒(mao)号(hao)后是(shi)容器内(nei)的映射路径。

2.4 部署说明

  • 镜像(xiang)来源:使用 ghcr.io/open-webui/open-webui:ollama 镜(jing)像,该镜(jing)像已(yi)集(ji)成(cheng)了 OpenWebUI 和 Ollama,因此无(wu)需单(dan)独(du)运行 Ollama 服务(wu),系(xi)统将(jiang)自(zi)动(dong)完成(cheng)启动(dong)与集(ji)成(cheng)。

  • 端口设(she)置(zhi):OpenWebUI 默认端口为 8080,但可通过 ports 参数调整。本文将其映射到 3000 端口,访问地址为 //NAS_IP:3000。Ollama 的默认端(duan)口为 11434,但无(wu)需暴露,因(yin)为镜像(xiang)内部已完成(cheng)对接(jie),OpenWebUI 可直接(jie)调用 Ollama 服务。

相关(guan)阅读

2.5 部署项目

上传配(pei)置文件后,点击【立即部(bu)署】,系统会自动拉取镜像并启动容(rong)器。

UGREEN极悦娱乐-更专业更安心的数码品牌

UGREEN极悦娱乐-更专业更安心的数码品牌

镜像下载失败(bai)处(chu)理方法:

  • open-webui镜(jing)像(xiang)拉取失败:建(jian)议(yi)配置加速器以提(ti)高镜像下载速度,特别是在中国内地的网络环(huan)境下。 详细操作步(bu)骤请参考(kao)了解如何设置。

  • 代(dai)理(li)设置:在某些情况下,您(nin)可能(neng)需要配置(zhi) HTTP/HTTPS 代理来辅助下载(zai),详见

2.6 访问 Open WebUI

要访(fang)问 Open WebUI 的(de) Web 界面,请按(an)以下步(bu)骤操(cao)作(zuo):

  1. 局域网内打开浏览器,访问部署地址,进入登录页面后点击开始使用。

UGREEN极悦娱乐-更专业更安心的数码品牌

  1. 初次(ci)访问需创(chuang)建管理员账号,设置用户名、邮(you)箱及密码。

UGREEN极悦娱乐-更专业更安心的数码品牌

  1. 使用新建的账号登录。

UGREEN极悦娱乐-更专业更安心的数码品牌

注意初(chu)次访问页面时(shi),可能会遇到内部错误(wu)或(huo)连接被拒(ju)的情况(kuang),请稍候(hou)分(fen)钟再尝试加载。

界面空白问题的解(jie)决方法

初次(ci)登录 Open WebUl 时(shi)您(nin)会遇到(dao)界(jie)面(mian)空(kong)白的情况。这是因为(wei)系统在后台等待(dai) OpenAl 模型的返(fan)回数据时(shi)产生了延迟(chi)。如果(guo)您(nin)不(bu)希望等待(dai)加载(zai)过程,可以通(tong)过关(guan)闭(bi) OpenAI API 来解决该问题。请注(zhu)意,关(guan)闭(bi)OpenAI API需(xu)要(yao)在首次(ci)加载(zai)界(jie)面(mian)成功后进行。

UGREEN极悦娱乐-更专业更安心的数码品牌

在(zai)首次(ci)加载 open webui 界面(mian)成功后,可(ke)以在(zai)【管(guan)理员面(mian)板>设置>;外部连接】里将 OpenAl 的 API 选(xuan)项关(guan)掉(diao),再重新打(da)开(kai)页面(mian)即可(ke)。

UGREEN极悦娱乐-更专业更安心的数码品牌

您还可以通(tong)过查看相(xiang)关(guan)日志文(wen)件来判断加载过程是否正常(chang)进(jin)行。具体操作如(ru)下:

  • 进入 UGOS Pro 的(de) Docker 应用。

  • 点(dian)击【容器】 > 选中(zhong) Open WebUI 容器 > 点(dian)击【日志】。

  • 请检查日(ri)志中是否包含模型加载(zai)的进度(du)信(xin)息,如 "get_all_models" 或 "Loading models" 等(deng)提示。若(ruo)日(ri)志显示正常加载(zai),请等(deng)待1-2分钟,页面将自(zi)动刷新(xin)并恢复正常;若(ruo)出现错误(wu)提示,则(ze)根据日(ri)志信(xin)息进行问(wen)题排查。

UGREEN极悦娱乐-更专业更安心的数码品牌

  1. 成功登录后,将进入主界面(mian)。

UGREEN极悦娱乐-更专业更安心的数码品牌

3、下载和部署 Deepseek-R1 模型(xing)

1.前往 Ollama 官网:下载模型,点击左上角 “Models” 。

UGREEN极悦娱乐-更专业更安心的数码品牌

2.选择(ze)“deepseek-r1”模型点(dian)击(ji)进入查看详情。

UGREEN极悦娱乐-更专业更安心的数码品牌

DeepSeek-R1各版本硬件要求和使用说明:

  • 1.5b 大小的模型通常至(zhi)少需要 8GB RAM,针对边缘(yuan)设(she)备上的快速推理进(jin)行优化(hua)的轻量级(ji)版本。

  • 7b 大小的(de)模型(xing)通常至少需(xu)要(yao) 16GB RAM,适用于通用推理任务的(de)平衡模型(xing)。

  • 8b 大小的模(mo)型通常(chang)至少需要 32GB RAM,有更高的准确性和更好的上下文(wen)理解。

  • 14b 大小的(de)模型(xing)通常至少需要 64GB RAM,推理和解决问题(ti)的(de)能力得到提高(gao)。

  • 32b 大小(xiao)的(de)模型通常至少需要 128GB RAM,更强的(de)逻辑分析(xi)和(he)更精细(xi)的(de)逐(zhu)步输出(chu)。

  • 70b 大小的模型通常需要至少 256GB RAM,适(shi)用于高(gao)级人工(gong)智(zhi)能驱(qu)动应用程序的高(gao)端版本(ben)。

  • 671b 大小的模型通常需要(yao)至少(shao) 512GB RAM ,专家(jia)混合(he) (MoE) 模型,每个(ge)令(ling)牌激活 370 亿个(ge)参数,以实现最先进的推理性能(neng)。

3.这(zhei)里根据(ju) NAS 硬件(jian)配置选择模(mo)型大小,不(bu)指定的话默(mo)认(ren)是(shi) 7B,本教程我(wo)们选择 1.5 B 大小的模型。

UGREEN极悦娱乐-更专业更安心的数码品牌

4.复制旁边的拉取命令ollama run deepseek-r1:1.5b

UGREEN极悦娱乐-更专业更安心的数码品牌

  1. 登录 Open WebUI 的 Web 界面,点击左上角搜索输入模型名称(例如: ollama run deepseek-r1:1.5b) 直接下载使用。

UGREEN极悦娱乐-更专业更安心的数码品牌

  1. (可选)或返回(hui) UGOS Pro 的 Docker 应用,进入【容器】 > 选中 Open WebUI 容器 > 点(dian)击【终端】 > 新增 Bash 连接。

UGREEN极悦娱乐-更专业更安心的数码品牌

  1. (可选)在 Bash 终端(duan)中粘贴拉(la)取命令,等(deng)待模(mo)型下(xia)载完成。

ollama run deepseek-r1:1.5b

UGREEN极悦娱乐-更专业更安心的数码品牌

  1. (可选)显示 success 说(shuo)明模型下载(zai)完(wan)成,重启(qi)容器。

  2. (可选)登录(lu) Open WebUI,确认模型是(shi)否已加载。

UGREEN极悦娱乐-更专业更安心的数码品牌

4、 使用 Deepseek-R1 模型

在新对话中使用模型,输入“ hello world! ”或其他问(wen)题,可以看到已(yi)经(jing)能(neng)使用了。

UGREEN极悦娱乐-更专业更安心的数码品牌

请注意(yi):部(bu)署大(da)模型会显著(zhu)增加 NAS 的 CPU 和内存(cun)负载,建议(yi)避免在高(gao)负载任务中使用。

UGREEN极悦娱乐-更专业更安心的数码品牌

5、注意事项(xiang)

请注意,本教程中的(de)镜像由第(di)三(san)方开发和(he)维护,教程仅供(gong)参考。极悦娱乐不承担因用户操作不当、第(di)三(san)方软件漏洞或镜像更新引发的(de)风险,包括但(dan)不限于:

· 第三(san)方镜像可能导致您在(zai) UGOS Pro 系统(tong)中的(de)文件意外修改或(huo)删除。

· 使用不安全的镜像可(ke)能导致数(shu)据(ju)(ju)上传至第三方服务器,存在隐(yin)私(si)和(he)数(shu)据(ju)(ju)泄(xie)露风险。

· 为确保系统(tong)稳定和数据安全,请谨慎(shen)选择可信来源的第(di)三方镜(jing)像。

其他注(zhu)意事项(xiang):

1. 容器的文件(jian)/文件(jian)夹路径仅供参(can)考,您(nin)可(ke)以根据个人(ren)习惯创建。

2. 网页访问的(de)容(rong)器(qi)(qi)端口(kou)和(he)本地端口(kou)应(ying)保(bao)持(chi)一致(zhi)。如有冲突,请改为未使(shi)用的(de)端口(kou)。容(rong)器(qi)(qi)之间的(de)本地端口(kou)不能相同,端口(kou)冲突会(hui)导致(zhi)无法启(qi)动(dong)容(rong)器(qi)(qi)。

3. 容器的网页链接仅在 bridge 桥接模式下可访问。

4. 镜像仅提供搭建教(jiao)程,具体使用方法和深度(du)玩法请网上搜索(suo)参考。

5. 镜(jing)像(xiang)由(you)第(di)三方开发,具体配(pei)置变动和(he) bug 修复请关注相关官方信息。

6. 建议(yi)将 Docker 配置目录存储在 SSD 硬(ying)盘(pan)中(zhong),以避免机械硬(ying)盘(pan)影(ying)响(xiang)系统性能。


客服
社群
反馈
返回
Hello,需要帮助吗?
UGREEN极悦娱乐微信公众号
在线客服
UGREEN极悦娱乐微信公众号
UGREEN极悦娱乐微信公众号
扫一扫,获取在线客服支持,助您畅享智能生活。
服务热线
服务热线
0755-28066995
技术支持
技术支持
0755-28066995转1
我要合作 我要合作
我要合作
极悦娱乐-全新的游戏体验平台 HEMO-极悦娱乐-极悦游戏注册平台 鼎点耀世娱乐login_新博2注册地址「一家有温度的游戏平台」HEMO-凤凰联盟所有平台「一家有温度的游戏平台」login_鼎点娱乐登录入口「一家有温度的游戏平台」