Skip to content

AI 成本追踪 ​

用云端大模型 API 时,调用开销会随笔记量悄悄累积。理清计费维度并养成监控习惯,能避免月底收到意外账单。

主流计费维度 ​

不同供应商计费项略有差异,但核心都是这三类:

  • 输入 Token:发给模型的提示词与笔记上下文,按千 token 计费。
  • 输出 Token:模型生成的回复,通常比输入更贵。
  • 附加费用:嵌入向量、函数调用、缓存命中、请求次数等。

例如 Claude 与 GPT 系列都按「输入 + 输出」分别计价,且输出单价约为输入的 3–5 倍。

容易被忽视的隐形成本 ​

  1. 上下文膨胀:把整篇笔记塞进提示词,输入 token 暴涨。只传选区或相关段落可省下大半。
  2. 重试与兜底:插件自动重试失败时,会重复计费。
  3. 嵌入批量任务:一次性给几百篇笔记建向量索引,可能瞬间消耗大量 token。
  4. 多模型并行:同时挂 Copilot 和 Text Generator,调用会叠加。

监控与预算 practice ​

  • 在供应商后台开启「用量告警」,设月度预算上限。
  • 用插件自带的用量面板(如 Copilot 的 token 统计)按周自查。
  • 把高频批量任务(标签、摘要)排到本地模型执行,只把需要强能力的任务留给云端。
  • 对长笔记用摘要替代原文,缩小上下文体积。

成本对照示例 ​

场景估算月调用云端费用本地替代
每日 20 条摘要~60 万 token$1–3免费
每周整库重索引~500 万 token$8–15免费
偶发深度问答~20 万 token<$1可选

相关阅读 ​