Ollama 本地模型
Ollama 是目前最易上手的本地模型运行时,一条命令就能拉起 Llama、Qwen、Phi 等主流开源模型,并被多数 Obsidian AI 插件原生支持。
安装与启动
在 macOS / Linux 上推荐用官方安装包或 brew:
bash
brew install ollama
ollama serve # 启动服务,默认监听 http://localhost:11434Windows 直接下载安装程序,启动后托盘会出现 Ollama 图标。确认服务在 11434 端口可用:
bash
curl http://localhost:11434/api/tags拉取与运行模型
bash
ollama pull llama3.1:8b # 拉取 80 亿参数版本
ollama run llama3.1:8b "用一句话总结 Zettelkasten 方法"常用笔记场景模型推荐:
- llama3.1:8b:综合能力强,适合摘要、改写、问答。
- qwen2.5:7b:中文理解优秀,适合中文笔记整理。
- phi3:mini:体积小、速度快,适合轻量续写。
在 Obsidian 中接入
以 Copilot 为例:设置 → Provider 选 Ollama,Base URL 填 http://localhost:11434,Model 填 llama3.1:8b。保存后即在编辑器内获得本地对话能力,所有数据都不离开本机。
显存与内存估算
| 量化等级 | 模型尺寸 | 大致内存占用 |
|---|---|---|
| Q4_K_M | 8B | 6 GB |
| Q5_K_M | 8B | 7 GB |
| Q8_0 | 8B | 9 GB |