折叠线用什么数
模块:上下文压缩(
internal/runengine/midfold.go/compact.go)| 状态:已落地(doc/24时期)| 证据:doc/24-用量计数.md、tmp/17-子代理折叠/planning.md(子代理侧同拍)
1. 场景与病灶
一场 run 工具循环要打十几枪。每枪之后引擎都要判断:下一份输入会不会超过 compactLimit,要不要先折叠?
判断错了两个方向都疼:
- 数大了 → 明明还有空间就折叠,模型反复读摘要,信息密度掉。
- 数小了 → 自测放行,真实请求被 provider 拒收或吃掉窗口,整场 run 崩。
真实崩过的链是这样的:思考模型先输出很长一段 ReasoningContent,再调工具。eino 的 openai 组件会把思考原样放进下一次请求;而 convertState 只保留 Text 与 ToolCalls,countInput 把思考数成 0。自测偏小被放行,厂商按真实长度拒收。
2. 候选与代价
| 问题 | 候选 | 好处 | 代价 |
|---|---|---|---|
| 下一枪还发不发思考? | A 原样重发 | 部分厂商要求带回 | 自测漏数、白花钱、窗口早满 |
B 交给模型前清空 ReasoningContent(定案) |
自测与真实请求在「思考」上对齐;跨场形状一致 | 若厂商因缺 reasoning 返回 400,走 error,不补假思考、不单独重试 | |
| 有账单时用哪条公式? | A TotalTokens + 新行 |
简单 | completion 侧含思考,偏保守早折 |
B CompletionTokens − 思考 + 新行 |
不含思考 | 缺 Prompt 侧历史 | |
C PromptTokens + 可见 completion + 新行(定案) |
描述真实下一份输入 | 依赖账单,需要 reasoning_est |
|
| 无账单时? | D 全量 BPE(定案) | 准确 | 每轮重数贵 |
| 工具 schema 计不计? | A 计入 | 表面完整 | 声明折叠拆不掉;目录一大就「压完仍超限」,折叠反复空转 |
| B 不计入(定案) | 只数可折叠的部分 | 极端目录下低估,靠 limit 预留与溢出层兜底 | |
| 第一呼能不能用上一场末尾账单? | A 用 | 省一次 BPE | 旧账单量的是上一场发出去的长输入;跨场 Run fold 后可见行已变短,会误判超限、一开场再折一次 |
B 全量 countInput(定案) |
准确 | 贵一次 |
裁定:B / C / D / B / B。 核心原则:折叠线只数「这次真正会发出去的可折叠部分」——思考不发就不数,schema 拆不掉就不数,上一场的账单量的不是这一场。
3. 同族小裁定
| 小问题 | 裁定 | 代价 / 备注 |
|---|---|---|
| 滤思考与折叠同一拍吗? | 同拍;先把 reasoning_est 算好再清字段 |
滤完字段就空了,后算拿不到 |
| 子代理也接这套吗? | 接,复用主 run 同一条链 | 子代理是多轮长结果重灾区;doc/24:140 原「不给子代理新挂折叠」已翻案 |
| 锚点之后的新行怎么算? | 可见输出只算一次,锚点之后的新行才进 delta | 防止同一段 completion 被重复计入 |
| 工具 schema 的变化要不要触发重折? | 不触发;靠溢出层暴露极端情况 | 与「不计 schema」同一条纪律 |
4. 证据
- 方案:
doc/24-用量计数.md§3(主裁决:滤思考)、§5(有账单时的触发公式)、§6(无账单仍用全量countInput)、§7(工具 schema 不进触发)。 - 代码:
midfold.go的stripReasoning、usageBasedInput;compact.go的countInput(三块基数,无 schema 参数)。 - 复核命令:
grep -n "func stripReasoning\|func usageBasedInput" yk-tako-eino/internal/runengine/midfold.go;grep -n "func countInput" yk-tako-eino/internal/runengine/compact.go。
5. 现状
仍有效。子代理侧在同拍施工时一并接上(ceecc28)。展示给用户的「上下文占比」用的是同一把尺,见 doc/problems/用量怎么让用户看见。