tako 文档 GitHub

折叠线用什么数

模块:上下文压缩(internal/runengine/midfold.go / compact.go)| 状态:已落地(doc/24 时期)| 证据:doc/24-用量计数.md、tmp/17-子代理折叠/planning.md(子代理侧同拍)

1. 场景与病灶

一场 run 工具循环要打十几枪。每枪之后引擎都要判断:下一份输入会不会超过 compactLimit,要不要先折叠?

判断错了两个方向都疼:

真实崩过的链是这样的:思考模型先输出很长一段 ReasoningContent,再调工具。eino 的 openai 组件会把思考原样放进下一次请求;而 convertState 只保留 Text 与 ToolCalls,countInput 把思考数成 0。自测偏小被放行,厂商按真实长度拒收。

2. 候选与代价

问题 候选 好处 代价
下一枪还发不发思考? A 原样重发 部分厂商要求带回 自测漏数、白花钱、窗口早满
B 交给模型前清空 ReasoningContent(定案) 自测与真实请求在「思考」上对齐;跨场形状一致 若厂商因缺 reasoning 返回 400,走 error,不补假思考、不单独重试
有账单时用哪条公式? A TotalTokens + 新行 简单 completion 侧含思考,偏保守早折
B CompletionTokens − 思考 + 新行 不含思考 缺 Prompt 侧历史
C PromptTokens + 可见 completion + 新行(定案) 描述真实下一份输入 依赖账单,需要 reasoning_est
无账单时? D 全量 BPE(定案) 准确 每轮重数贵
工具 schema 计不计? A 计入 表面完整 声明折叠拆不掉;目录一大就「压完仍超限」,折叠反复空转
B 不计入(定案) 只数可折叠的部分 极端目录下低估,靠 limit 预留与溢出层兜底
第一呼能不能用上一场末尾账单? A 用 省一次 BPE 旧账单量的是上一场发出去的长输入;跨场 Run fold 后可见行已变短,会误判超限、一开场再折一次
B 全量 countInput(定案) 准确 贵一次

裁定:B / C / D / B / B。 核心原则:折叠线只数「这次真正会发出去的可折叠部分」——思考不发就不数,schema 拆不掉就不数,上一场的账单量的不是这一场。

3. 同族小裁定

小问题 裁定 代价 / 备注
滤思考与折叠同一拍吗? 同拍;先把 reasoning_est 算好再清字段 滤完字段就空了,后算拿不到
子代理也接这套吗? 接,复用主 run 同一条链 子代理是多轮长结果重灾区;doc/24:140 原「不给子代理新挂折叠」已翻案
锚点之后的新行怎么算? 可见输出只算一次,锚点之后的新行才进 delta 防止同一段 completion 被重复计入
工具 schema 的变化要不要触发重折? 不触发;靠溢出层暴露极端情况 与「不计 schema」同一条纪律

4. 证据

5. 现状

仍有效。子代理侧在同拍施工时一并接上(ceecc28)。展示给用户的「上下文占比」用的是同一把尺,见 doc/problems/用量怎么让用户看见。