DSH 学习资料站 · 缓存与分会话

不相干的两个问题,分开会话更省钱吗?

前提里藏着一个方向误区:缓存命中不是费用,而是折扣。 本页澄清这个误区,再回答真正的问题——两个完全不相干的问题,该放一个会话还是分开?

01先纠正误区:命中是折扣,不是费用

⚠️ 关键 命中的 token 更便宜(约 1/30),未命中的才贵。不存在"省去缓存命中的钱"—— 想避开命中只会让全部按全价付。省钱的方向反而是尽量多命中
状态单价想省钱该?
缓存命中约 1/30 价多命中 ✔
缓存未命中全价越少越好

02真实问题:无关问题要不要分会话

回答你的问题——两个完全不相干的问题各自开新会话,确实能省掉"携带历史"的开销。 但注意:省的是"携带无关历史"的钱,不是"避开命中"的钱。

同一个会话里连续问两个不相干的问题时,第 2 问的输入是 系统提示 + 问题1 + 回答1 + 问题2——那 8,000 token 的无关历史即使命中(1/30 价), 你也是在为一个根本用不上的历史付钱。

分两个会话后,第 2 问的输入是干净的 系统提示 + 问题2——那 8,000 token 一分钱都不用付(0),比 1/30 还省。

03成本对比(示意)

假设 Q1 历史约 8,000 token、每个新问题约 2,000 token:

做法第2问携带的输入无关历史的成本说明
同会话(无关 Q1) 系统+Q1+回答1+Q2 ≈ 8000 × 1/30 虽命中便宜,仍为用不到的历史付费
分开两个会话 系统+Q2 0 不携带,一文不花

注意:系统提示在每个会话都一样,仍然会命中(跨会话复用),这部分折扣照享。 你省的是"无关历史",不是"避开缓存"。

04怎么选

🟢 完全无关、不追上下文 → 分两个会话

  • 干净、输入短,可能略省
  • 省掉的是"携带用不上的历史"

🔵 有关联 / 要追上下文 / agent 长任务 → 同一个会话

  • 靠命中历史省下大量重算
  • 这是省钱的大头
ℹ️ 核心公式 命中的 token 便宜,无关的 token 最好不带。 两者不冲突:能复用的尽量命中,用不上的干脆别放进来。