AI 成本追踪
用云端大模型 API 时,调用开销会随笔记量悄悄累积。理清计费维度并养成监控习惯,能避免月底收到意外账单。
主流计费维度
不同供应商计费项略有差异,但核心都是这三类:
- 输入 Token:发给模型的提示词与笔记上下文,按千 token 计费。
- 输出 Token:模型生成的回复,通常比输入更贵。
- 附加费用:嵌入向量、函数调用、缓存命中、请求次数等。
例如 Claude 与 GPT 系列都按「输入 + 输出」分别计价,且输出单价约为输入的 3–5 倍。
容易被忽视的隐形成本
- 上下文膨胀:把整篇笔记塞进提示词,输入 token 暴涨。只传选区或相关段落可省下大半。
- 重试与兜底:插件自动重试失败时,会重复计费。
- 嵌入批量任务:一次性给几百篇笔记建向量索引,可能瞬间消耗大量 token。
- 多模型并行:同时挂 Copilot 和 Text Generator,调用会叠加。
监控与预算 practice
- 在供应商后台开启「用量告警」,设月度预算上限。
- 用插件自带的用量面板(如 Copilot 的 token 统计)按周自查。
- 把高频批量任务(标签、摘要)排到本地模型执行,只把需要强能力的任务留给云端。
- 对长笔记用摘要替代原文,缩小上下文体积。
成本对照示例
| 场景 | 估算月调用 | 云端费用 | 本地替代 |
|---|---|---|---|
| 每日 20 条摘要 | ~60 万 token | $1–3 | 免费 |
| 每周整库重索引 | ~500 万 token | $8–15 | 免费 |
| 偶发深度问答 | ~20 万 token | <$1 | 可选 |