只需要四步即可在电脑本地运行deepseek-r1,无需联网,免费且不上传隐私数据
2025年2月1日
本文分享如何在电脑上不联网,不上传隐私数据,不使用 API,不支付任何费用,运行deepseek-r1。
使用的工具是 Ollama + AnythingLLM,此方法适合不方便联网,不想透露任何隐私数据、或者节约成本的场景,当然对电脑硬件有一定要求。
只需要四步。
第一步:下载 AnythingLLM
AnythingLLM(网址:anythingllm.com)是一款支持完全自定义和私有化部署的企业级大语言模型应用,适用于注重数据安全与定制化AI需求的个人和团队,支持本地向量化。
你可以把 AnythingLLM 理解为对话界面。打开页面即可下载。
第二步:下载 Ollama
Ollama(网址:ollama.com)是一款开源工具,支持在本地快速运行、管理和微调大型语言模型(如LLaMA系列)。
Ollama 相当于大模型的运用商店(类似手机APP商店)。
打开网址即可下载。
第三步:使用 Ollama 下载deepseek-r1
1)先在电脑上点击 ollama 图标打开 ollama。
2)接着使用 Ollama 下载deepseek-r1,先打开终端:
- 苹果电脑:搜索框输入「终端」,打开终端APP
- window电脑:按下
Win + R
打开“运行”对话框;输入cmd
,然后按Enter
。
3)在这个页面 https://ollama.com/library/deepseek-r1 选择适合电脑内存的,建议最好选择8B以上的。
复制命令粘贴在终端,我选择的是14B的,终端粘贴ollama run deepseek-r1:14b
。
等待下载完成(注:下图用8B演示,因为之前下载过14B,无法再出现下图)
第四步:使用 AnythingLLM 使用下载的 deepseek-r1
打开 AnythingLLM
,同时打开 Ollama 。
点击设置,LLM 首选项
—>LLM 提供商
选择 Ollama。Ollama Model
选择下载好的14b 的 deepseek-r1。
返回首页点击“新工作区”,建立一个新工作区,即可开始对话。
除了上面的操作方法外,**还可以使用“JAN”(网址:https://jan.ai/),类似大模型运用商店,**但目前还不支持直接从JAN上下载deepseek-r1,估计未来会支持。