deepseek本地部署教程

今天来聊聊怎么本地部署DeepSeek,让大家使用上专属于自己的DeepSeek!

最近国产大模型 DeepSeek 非常火,但由于访问人数过多经常频繁出现反应迟缓甚至是宕机的情况。

但万幸的是,DeepSeek 是一个开源模型,我们可以通过本地部署在自己的终端上随时使用,而且部署到本地后无需联网即可直接使用。

一:安装 Ollama

如果想要在本地运行 DeepSeek 需要用到 Ollama 这个工具,这是一个开源的本地大模型运行工具。

我们可以访问 https://ollama.com/ 进入 Ollama 官网下载 Ollama ,下载时有三个系统的安装包可选择,这里只需要选择下载我们电脑对应的操作系统版本即可,这里我选择的是 Windows 版本。

deepseek本地部署教程

为什么要使用下面这个链接下载呢?
因为官方最近下载的人数太多了,导致下载速度太慢了,所以我就直接转存在网盘了!
windows的话可以直接点击这个下载就行。链接:https://pan.quark.cn/s/3a8a16d15b0b
macOS的下载地址:https://pan.quark.cn/s/6c75e6bd1f34
linux安装的话直接输入curl -fsSL https://ollama.com/install.sh | sh

官网地址:https://ollama.com/ 下载地址:https://ollama.com/download

Ollama 安装包下载完成后直接双击安装即可,安装速度还是比较快的。

大家看到下面这界面后耐心等待安装完毕即可!

deepseek本地部署教程
deepseek本地部署教程

那么我们跑完进度条以后就表示安装成功了,安装成功后打开软件!

在电脑的右下角任务栏里边看到这个小图标就代表安装成功了!

deepseek本地部署教程

二:模型安装

模型列表地址https://ollama.com/search

打开上面的模型列表地址,我们可以看到很多的模型,如下图!

我们点击箭头上的Models后就会看到这个页面了

然后再点击选择进去deepseek-r1

deepseek本地部署教程

然后再选择这个框框,就能看到各种各样的模型!

我们根据自身的电脑配置情况选择合适的模型就行了!

deepseek本地部署教程

我这里选择的是7B,大小是4.7GB

deepseek – r1 不同版本模型的执行命令不同:

  • 1.5b 的命令为:“
ollama run deepseek-r1:1.5b

  • 7b 的命令为:“
ollama run deepseek-r1:7b

  • 14b 的命令为:“
ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

推荐大家先下载较小的 1.5b 模型,把本教程的安装程序跑通,再根据自己的硬件配置和需求安装适当的版本。

  1. 本教程选择选择 7b 模型,在命令行窗口运行安装命令 “ollama run deepseek – r1:7b”,程序会自动下载和安装运行。

默认地址是 “C:\Users% username%.ollama\models”。如果要修改模型的保存地址,可以新建一个文件夹如 “C:\Model”,然后在系统环境变量添加系统变量:“变量名:OLLAMA_MODELS,变量值:C:\Model”。

  1. 安装完成后显示 “success”,表明安装成功。

使用 deepseek – r1 模型

  1. 在命令行窗口运行命令 “ollama run deepseek – r1:7b”,就可以在提示行输入,与 deepseek – r1 进行聊天。
  2. 输入 “/?”,可以获得帮助。

修改ollama安装地址。

重启Ollama:设置完环境变量后,需要重启Ollama以应用更改。可以通过任务管理器结束Ollama的进程,然后重新运行Ollama来实现重启。

打开系统属性:右键点击Windows桌面上的“此电脑”或“计算机”图标,选择“属性”以打开系统属性窗口。

进入环境变量设置:在系统属性窗口中,点击左侧的“高级系统设置”按钮。在弹出的“系统属性”窗口中,切换到“高级”选项卡,然后点击“环境变量”按钮。

新建或修改环境变量:在“环境变量”窗口中,可以在“系统变量”或“用户变量”部分找到或新建一个名为OLLAMA_MODELS的环境变量。如果已存在该变量,则直接选中并点击“编辑”按钮;如果不存在,则点击“新建”按钮来创建一个新的环境变量。

设置新的存储路径:在“编辑环境变量”或“新建环境变量”窗口中,输入变量名OLLAMA_MODELS,并在“变量值”文本框中输入希望保存模型文件的新目录路径。例如,如果希望将模型文件保存在D盘的OllamaModels目录下,则输入D:\OllamaModels

重要声明

本站所有内容仅供参考,分享出来是为了可以给大家提供新的思路。 本站一切资源不代表本站立场,并不代表本站赞同其观点和对其真实性负责。 互联网转载资源会有一些其他联系方式,请大家不要盲目相信,被骗本站概不负责! 本网站部分内容只做项目揭秘,无法一对一教学指导,每篇文章内都含项目全套的教程讲解,请仔细阅读。 本站分享的所有平台仅供展示,本站不对平台真实性负责,站长建议大家自己根据项目关键词自己选择平台。 因为文章发布时间和您阅读文章时间存在时间差,所以有些项目红利期可能已经过了,能不能赚钱需要自己判断。 本网站仅做资源分享,不做任何收益保障,创业公司上收费几百上千的项目我免费分享出来的,希望大家可以认真学习。 本站所有资料均来自互联网公开分享,并不代表本站立场,如不慎侵犯到您的版权利益,请联系本站删除,将及时处理! 联系方式微信:jkmwc或邮箱2947999888@qq.com


如果遇到付费才可观看的文章,建议升级会员或者成为认证用户。全站所有资源

给TA打赏
共{{data.count}}人
人已打赏
优质文章网络创业

烽火HG6143中国电信光猫超级密码获取

2024-12-27 13:10:57

优质文章技术教学

史上最简单的WordPress速度优化

2025-3-16 20:41:27

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索