外观
Ollama:在本机跑模型的命令行工具
最轻量的本地模型服务:一行命令下载模型、一行命令开聊,模型和对话全程留在自己的电脑上,不花 token、不经过外网。适合想离线用 AI、拿本地模型练手、或给 Cherry Studio、Cursor 这类客户端当本地后端的人。
网盘里有什么
免费开源,软件本身不收费;本地模型也不按 token 收费,只花你自己的电和硬件。网盘每天自动检查官方更新,只留最新版,最新版本号和大小见 安装包版本。
| 平台 | 网盘里的包 | 说明 |
|---|---|---|
| Windows | Windows 安装程序 | 装完后 Ollama 在后台以服务方式运行 |
| Mac | Mac 安装包 | 装完后菜单栏有 Ollama 图标 |
| Linux | Linux 安装包 | 服务器、无桌面环境的机器首选 |
Windows 安装包约 1.6GB、Mac 约 220MB(2026-11-03 网盘快照),体积大是因为自带了运行模型所需的全部组件,不用再另装依赖。
上手:三条命令
装完后打开终端(Windows 用 PowerShell),先确认装好了:
bash
ollama --version拉一个模型下来(以本地部署页推荐的日常聊天模型为例,第一次下载要几分钟,看网速):
bash
ollama pull qwen3.5:4b直接开聊:
bash
ollama run qwen3.5:4b换别的模型只要改名字,比如配置低的电脑用 ollama run gemma4:e4b。看本机已下载的模型:
bash
ollama list怎么选模型(2026 年 11 月,按用途挑)
模型越大越聪明,也越吃显存和内存;先按用途挑,再按硬件量级选大小。完整对照见 本地部署。
| 用途 | 推荐 | 文件大小 | 硬件量级 |
|---|---|---|---|
| 日常聊天 | qwen3.5:4b | 约 3.3GB | 6GB 显存起,没独显也能慢慢跑 |
| 日常聊天(更聪明) | qwen3.5:9b | 约 6.6GB | 8~12GB 显存,中档显卡甜点 |
| 写代码 | qwen3-coder:30b | 约 19GB | 24GB 显存,或 32GB 内存的整机 |
| 只装一个大的 | qwen3.6:27b / qwen3.8:27b | 约 18GB | 24GB 显存,聊天编程都强 |
| 推理难题 | deepseek-r1:14b | 约 9GB | 12GB 显存起,数学逻辑强 |
| 看图 | gemma4:e4b | 约 6.6GB | 8GB 显存起,图片和音频都能吃 |
去 Ollama 模型列表 按热门排序,挑最新、尺寸合适的就行;模型更新很快,上面是 2026 年 11 月的情况。
给别的客户端当本地后端
Ollama 平时以服务方式跑在 http://localhost:11434,并提供 OpenAI 兼容的 /v1 接口,所以很多工具都能直接连它:
- Cherry Studio:模型服务里添加 Ollama,地址填
http://localhost:11434,就有好看的聊天界面,不用在黑框框里聊,见 Cherry Studio 单页。 - Chatbox:同样添加 Ollama 服务,地址一样。
- Cursor 等编程工具:把自定义模型地址指向
http://localhost:11434/v1,就能用本地模型改代码(效果取决于模型本身,别指望小模型达到旗舰水平)。
常见问题
- 模型下载太慢? 国内可以去 魔搭社区 ModelScope 找模型文件;或开着 上网工具 再试。
- 跑起来很慢、一个字一个字蹦? 模型相对硬件太大了:换小一档的模型(比如 30b 换 9b),或关掉其他吃显存的程序;没独显的电脑优先选 4b 这类小模型。
- 显存不够会怎样? 模型会改用内存跑,速度明显变慢,但一般还能跑;实在跑不动就换更小的量化版本。
- Ollama 和 LM Studio 选哪个? 喜欢命令行、想给别的工具当后端选 Ollama;喜欢点鼠标、有图形聊天界面选 LM Studio 单页;两个可以同时装,不冲突。
- 本地模型能联网查资料吗? 不能。本地模型只知道训练时学到的东西,查最新价格、新闻、政策还是得用联网的云端模型。
- 对话记录存在哪? 存在你自己的电脑上,不上传;换电脑、重装系统前记得自己备份重要对话。
相关页
- 本地部署:Ollama 与 LM Studio 完整教程、按用途选模型
- LM Studio 单页:图形界面的本地模型工具
- Cherry Studio 单页:给 Ollama 套一个好看的聊天界面
- 客户端与配套:全部软件总览
- 安装包版本:网盘全部软件的最新版本与大小