外观
🖥️ 本地部署
在自己电脑上跑 AI 模型:断网能用、免费、数据不出电脑。代价是需要不错的硬件,效果比不上网页版的满血模型。
适合你吗?
- ✅ 处理隐私文件、公司资料,不想上传
- ✅ 想折腾、学习大模型
- ❌ 只是想要最聪明的 AI → 直接用网页版 DeepSeek 更好
看看你的电脑能跑多大
| 显卡显存(或 Mac 内存) | 能跑的模型大小 | 举例 |
|---|---|---|
| 没独显 / 8GB 内存 | 1.5B ~ 4B,慢 | qwen3:4b |
| 6 ~ 8GB | 7B ~ 8B | deepseek-r1:8b、qwen3:8b |
| 12 ~ 16GB | 14B | deepseek-r1:14b、qwen3:14b |
| 24GB | 30B ~ 32B | qwen3:32b、qwen3:30b |
| Mac M 芯片 32GB+ | 30B 左右流畅 | 同上 |
「B」是什么
参数量,7B = 70 亿参数。数字越大越聪明,也越吃硬件。网上说的「满血 DeepSeek」是 671B,个人电脑跑不动,本地跑的都是「蒸馏小版本」。
方法一:Ollama(推荐)
最简单的本地模型工具,一行命令下载 + 运行。
- 下载安装 Ollama。
- 打开终端(Windows 按
Win + R输入cmd),运行:
bash
ollama run qwen3:8b- 第一次会自动下载模型,下完就能直接聊天。换别的模型改名字就行,比如
ollama run deepseek-r1:8b。
不想在黑框框里聊?用 Cherry Studio 或 Chatbox,添加「Ollama」服务,地址填 http://localhost:11434,就有好看的聊天界面了。
方法二:LM Studio
带图形界面的本地模型工具,全程点鼠标,自带模型搜索和聊天界面。
模型下载太慢?
- 国内可以去 魔搭社区 ModelScope 下载模型文件。
- Ollama 下载慢时,开着上网工具再试。
推荐模型
| 模型 | 特点 |
|---|---|
| Qwen3(千问) | 中文好、尺寸全,首选 |
| DeepSeek-R1 蒸馏版 | 会「思考」,适合推理题 |
| Gemma 3(Google) | 小而强,能看图 |
| GLM 系列(智谱) | 中文和编程都不错 |