Local GPT 教程
Local GPT 把本地大模型接入 Obsidian,在本机完成摘要与问答,适合对隐私和成本敏感的用户。
它能做什么
- 本地问答:基于当前笔记或整库,用跑在本机的模型回答问题。
- 摘要与续写:对选区或全文生成摘要、扩写。
- 零云端依赖:所有推理在本地完成,数据不出设备。
支持
插件支持 Ollama、llama.cpp 等本地运行时,需在设置里填入本地端点(如 http://localhost:11434)。也兼容部分云端 API,但本地模式是其核心卖点。
可与
Local GPT 可与 Copilot、BMO 等本地插件互为替代。若你的设备算力有限,建议只保留一个本地插件,避免同时加载多个模型占用内存。
提供
使用建议:
- 先用 7B–8B 量化模型跑通,再按需升级。
- 限制上下文窗口,保证响应速度。
- 处理敏感笔记时务必关闭任何云端兜底开关。