只需要四步即可在电脑本地运行deepseek-r1,无需联网,免费且不上传隐私数据

2025年2月1日

本文分享如何在电脑上不联网,不上传隐私数据,不使用 API,不支付任何费用,运行deepseek-r1。

使用的工具是 Ollama + AnythingLLM,此方法适合不方便联网,不想透露任何隐私数据、或者节约成本的场景,当然对电脑硬件有一定要求。

只需要四步。

第一步:下载 AnythingLLM

AnythingLLM(网址:anythingllm.com)是一款支持完全自定义和私有化部署的企业级大语言模型应用,适用于注重数据安全与定制化AI需求的个人和团队,支持本地向量化。

你可以把 AnythingLLM 理解为对话界面。打开页面即可下载。

img

第二步:下载 Ollama

Ollama(网址:ollama.com)是一款开源工具,支持在本地快速运行、管理和微调大型语言模型(如LLaMA系列)。

Ollama 相当于大模型的运用商店(类似手机APP商店)。

打开网址即可下载。

img

第三步:使用 Ollama 下载deepseek-r1

1)先在电脑上点击 ollama 图标打开 ollama。

2)接着使用 Ollama 下载deepseek-r1,先打开终端:

  • 苹果电脑:搜索框输入「终端」,打开终端APP
  • window电脑:按下 Win + R 打开“运行”对话框;输入 cmd ,然后按 Enter

3)在这个页面 https://ollama.com/library/deepseek-r1 选择适合电脑内存的,建议最好选择8B以上的。

img

复制命令粘贴在终端,我选择的是14B的,终端粘贴ollama run deepseek-r1:14b

等待下载完成(注:下图用8B演示,因为之前下载过14B,无法再出现下图)

img

第四步:使用 AnythingLLM 使用下载的 deepseek-r1

打开 AnythingLLM,同时打开 Ollama 。

点击设置,LLM 首选项—>LLM 提供商选择 Ollama。Ollama Model选择下载好的14b 的 deepseek-r1。

img

img

返回首页点击“新工作区”,建立一个新工作区,即可开始对话。

img

img

除了上面的操作方法外,**还可以使用“JAN”(网址:https://jan.ai/),类似大模型运用商店,**但目前还不支持直接从JAN上下载deepseek-r1,估计未来会支持。