Skip to content

Ollama:在本机跑模型的命令行工具 ​

最轻量的本地模型服务:一行命令下载模型、一行命令开聊,模型和对话全程留在自己的电脑上,不花 token、不经过外网。适合想离线用 AI、拿本地模型练手、或给 Cherry Studio、Cursor 这类客户端当本地后端的人。

网盘里有什么 ​

免费开源,软件本身不收费;本地模型也不按 token 收费,只花你自己的电和硬件。网盘每天自动检查官方更新,只留最新版,最新版本号和大小见 安装包版本。

平台网盘里的包说明
WindowsWindows 安装程序装完后 Ollama 在后台以服务方式运行
MacMac 安装包装完后菜单栏有 Ollama 图标
LinuxLinux 安装包服务器、无桌面环境的机器首选

Windows 安装包约 1.6GB、Mac 约 220MB(2026-11-03 网盘快照),体积大是因为自带了运行模型所需的全部组件,不用再另装依赖。

上手:三条命令 ​

装完后打开终端(Windows 用 PowerShell),先确认装好了:

bash
ollama --version

拉一个模型下来(以本地部署页推荐的日常聊天模型为例,第一次下载要几分钟,看网速):

bash
ollama pull qwen3.5:4b

直接开聊:

bash
ollama run qwen3.5:4b

换别的模型只要改名字,比如配置低的电脑用 ollama run gemma4:e4b。看本机已下载的模型:

bash
ollama list

怎么选模型(2026 年 11 月,按用途挑) ​

模型越大越聪明,也越吃显存和内存;先按用途挑,再按硬件量级选大小。完整对照见 本地部署。

用途推荐文件大小硬件量级
日常聊天qwen3.5:4b约 3.3GB6GB 显存起,没独显也能慢慢跑
日常聊天(更聪明)qwen3.5:9b约 6.6GB8~12GB 显存,中档显卡甜点
写代码qwen3-coder:30b约 19GB24GB 显存,或 32GB 内存的整机
只装一个大的qwen3.6:27b / qwen3.8:27b约 18GB24GB 显存,聊天编程都强
推理难题deepseek-r1:14b约 9GB12GB 显存起,数学逻辑强
看图gemma4:e4b约 6.6GB8GB 显存起,图片和音频都能吃

去 Ollama 模型列表 按热门排序,挑最新、尺寸合适的就行;模型更新很快,上面是 2026 年 11 月的情况。

给别的客户端当本地后端 ​

Ollama 平时以服务方式跑在 http://localhost:11434,并提供 OpenAI 兼容的 /v1 接口,所以很多工具都能直接连它:

  • Cherry Studio:模型服务里添加 Ollama,地址填 http://localhost:11434,就有好看的聊天界面,不用在黑框框里聊,见 Cherry Studio 单页。
  • Chatbox:同样添加 Ollama 服务,地址一样。
  • Cursor 等编程工具:把自定义模型地址指向 http://localhost:11434/v1,就能用本地模型改代码(效果取决于模型本身,别指望小模型达到旗舰水平)。

常见问题 ​

  • 模型下载太慢? 国内可以去 魔搭社区 ModelScope 找模型文件;或开着 上网工具 再试。
  • 跑起来很慢、一个字一个字蹦? 模型相对硬件太大了:换小一档的模型(比如 30b 换 9b),或关掉其他吃显存的程序;没独显的电脑优先选 4b 这类小模型。
  • 显存不够会怎样? 模型会改用内存跑,速度明显变慢,但一般还能跑;实在跑不动就换更小的量化版本。
  • Ollama 和 LM Studio 选哪个? 喜欢命令行、想给别的工具当后端选 Ollama;喜欢点鼠标、有图形聊天界面选 LM Studio 单页;两个可以同时装,不冲突。
  • 本地模型能联网查资料吗? 不能。本地模型只知道训练时学到的东西,查最新价格、新闻、政策还是得用联网的云端模型。
  • 对话记录存在哪? 存在你自己的电脑上,不上传;换电脑、重装系统前记得自己备份重要对话。

相关页 ​

安装包每天自动更新 · 本站不出售任何账号、节点和 API Key · 关于梦箱