Skip to content

Ollama 本地模型 ​

Ollama 是目前最易上手的本地模型运行时,一条命令就能拉起 Llama、Qwen、Phi 等主流开源模型,并被多数 Obsidian AI 插件原生支持。

安装与启动 ​

在 macOS / Linux 上推荐用官方安装包或 brew:

bash
brew install ollama
ollama serve        # 启动服务,默认监听 http://localhost:11434

Windows 直接下载安装程序,启动后托盘会出现 Ollama 图标。确认服务在 11434 端口可用:

bash
curl http://localhost:11434/api/tags

拉取与运行模型 ​

bash
ollama pull llama3.1:8b      # 拉取 80 亿参数版本
ollama run llama3.1:8b "用一句话总结 Zettelkasten 方法"

常用笔记场景模型推荐:

  • llama3.1:8b:综合能力强,适合摘要、改写、问答。
  • qwen2.5:7b:中文理解优秀,适合中文笔记整理。
  • phi3:mini:体积小、速度快,适合轻量续写。

在 Obsidian 中接入 ​

以 Copilot 为例:设置 → Provider 选 Ollama,Base URL 填 http://localhost:11434,Model 填 llama3.1:8b。保存后即在编辑器内获得本地对话能力,所有数据都不离开本机。

显存与内存估算 ​

量化等级模型尺寸大致内存占用
Q4_K_M8B6 GB
Q5_K_M8B7 GB
Q8_08B9 GB

相关阅读 ​