Skip to content

🖥️ 本地部署 ​

在自己电脑上跑 AI 模型:断网能用、免费、数据不出电脑。代价是需要不错的硬件,效果比不上网页版的满血模型。

适合你吗? ​

  • ✅ 处理隐私文件、公司资料,不想上传
  • ✅ 想折腾、学习大模型
  • ❌ 只是想要最聪明的 AI → 直接用网页版 DeepSeek 更好

看看你的电脑能跑多大 ​

显卡显存(或 Mac 内存)能跑的模型大小举例
没独显 / 8GB 内存1.5B ~ 4B,慢qwen3:4b
6 ~ 8GB7B ~ 8Bdeepseek-r1:8b、qwen3:8b
12 ~ 16GB14Bdeepseek-r1:14b、qwen3:14b
24GB30B ~ 32Bqwen3:32b、qwen3:30b
Mac M 芯片 32GB+30B 左右流畅同上

「B」是什么

参数量,7B = 70 亿参数。数字越大越聪明,也越吃硬件。网上说的「满血 DeepSeek」是 671B,个人电脑跑不动,本地跑的都是「蒸馏小版本」。

方法一:Ollama(推荐) ​

最简单的本地模型工具,一行命令下载 + 运行。

  1. 下载安装 Ollama。
  2. 打开终端(Windows 按 Win + R 输入 cmd),运行:
bash
ollama run qwen3:8b
  1. 第一次会自动下载模型,下完就能直接聊天。换别的模型改名字就行,比如 ollama run deepseek-r1:8b。

不想在黑框框里聊?用 Cherry Studio 或 Chatbox,添加「Ollama」服务,地址填 http://localhost:11434,就有好看的聊天界面了。

方法二:LM Studio ​

带图形界面的本地模型工具,全程点鼠标,自带模型搜索和聊天界面。

模型下载太慢? ​

推荐模型 ​

模型特点
Qwen3(千问)中文好、尺寸全,首选
DeepSeek-R1 蒸馏版会「思考」,适合推理题
Gemma 3(Google)小而强,能看图
GLM 系列(智谱)中文和编程都不错

安装包每天自动更新 · 本站不出售任何账号、节点和 API Key