19v6-09 · 溢出修复层(立项方案)
施工状态(2026-10-16,二期收口):一期 A1–A4 已落地(①救援链 / ②检出 + run 末强折 / 回归网;A2 活体在真 provider 上真兜住过 ⇒ §9 闸门满足);三期预留重裁已落地(limit = window − min(window/5, 16384),§9 状态行);二期 B1–B5 已落地(2026-10-16)——B1 装饰 观测层 / B2 guard 救援链(行
overflow guard rescue: …)/ B3 采用双点 + 槽位落库(D15 施工等价, §13-4 旁注)/ B4 trimToolResults n=0 兜底(§8 有效域勘误:默认栈活体不可达;同日裁 MaxIterations=50 后已活体重放、差分成立——封顶出口出compact trim:行、run complete,证据b4-max50/)/ B5 回归 网收口(四端点 + A2/A3 话本 + 负路径逐项重放同形)。二期活体实录(B2/B3):主话本「救一轮不救 state = 死缓一轮」、校准话本「救援可带 run 到 complete」、采用点 1/2 三场景、「下一 POST 活」。 证据tmp/19-v6/evidence-overflow/b1…b4/、b4-max50/与b5-regression/。实测 话本记录在 tmp 台账溢出节(验收后随台账清理)。
立项:2026-10-11(用户指示「这个还没写方案」——出方案即立项,同 19v6-10 当日先例)。 本篇取代同日早些时候的「需求登记」版;其立项触发条件事实上已满足——小窗卡死有 2026-10-11 C2 验收实录(§1 戏一),多 provider 误差面已在(provider-catalog 30+ 条目、 T3-1b 起子代理规格可配异厂商模型)。19v6-07 §5 的同名条目以本篇为准。 需求由来与裁定依据 = 19v6-07 §5「溢出修复层」条 + 19v6-90 十一次修订 (b)④ + tmp/19-v6/planning.md §10.6(WeKnora compaction 全包实读登记)。 施工前事实依据:WeKnora
overflow.go/think.go(L472–569)/engine.go(L649–709)/observe.go(L158–229)实读 + v6 runengine 压缩链(worker/compact/server)与 eino v0.9.21 钩子面实读;行号级证据在施工台账。
§0 地基:六个词的真身
估算计数(countInput):发送前的长度自测。谁:worker 的 prepareInput;数什么:system 提示词 + mh 每条可见行的文本(19v6-10 D3 起 + tool_calls JSON);怎么数:cl100k BPE 逐条 编码求和;跟谁比:limit。它为什么可能错:cl100k 是 OpenAI 的分词器,而 v6 目录里 30+ 个 provider(DeepSeek / Kimi / GLM / Qwen / MiMo / Doubao……)各用自己的分词器, 同一段中文两边数出来可以差两三成;工具 schema(每次调用随请求重发的工具声明清单)一个字 不计(19v6-10 §6 登记在案);运营商把 -compact-window 旗标填错,今天也没有任何一层 会发现。估算错在危险方向(少数了)时,发送前自测放行,provider 端才见真章——本层的 全部存在理由。
limit:window − min(window/5, 16384),window = -compact-window(默认 256000,0 = 压缩全关)。 触发折叠线、POST 单条准入线(limit/3)、摘要预算上限三处共用这一个数。预留 min(window/5, 16384) 承担双职能:响应空间 + 估算误差垫;此前为 window × 4/5,三期(2026-10-12 已落地)重裁为 此式,见 §9。
Run fold / mid-run fold:折叠 = 把老 run 的原文行压成一份摘要(seq=0 行)。Run fold 下刀点 = run 起手前(prepareInput),原料 = mh 可见行;mid-run fold 下刀点 = run 内每轮 模型调用前(19v6-10,middleware 改内存 state)。两者共用同一条「转录 → summarize → 验货 → staged」链(foldInput,compact.go)——本篇的强制折叠也是调这同一条链,只是 进入条件从「估算超线」换成「provider 已经撞墙」。
errStillOver 与干净 A:折叠循环 n 降到 0 仍塞不进 limit 的哨兵错误——不调主模型、 run status=error。零写入家族:闸失 / 进程死 ⇒ mh 一个比特不变,下轮从原文重压。 error 有例外(失败留痕,2026-10-22):这一轮已产出的内容照落库(形状见 19v6-03); 「失败且无产出」那一档仍是一行不写——本篇的 errStillOver 强折推理用的正是那一档 → 推理原样成立。
「溢出」的两种肉身(本层检出的全部对象,§4/§5 各管一种): ① provider 把请求打回来——一次模型调用直接返回错误,错误文本里写着「太长」类字样 (每家写法不同,§4 的 24 条正则);② provider 没报错,但响应形状证明它被窗口掐了—— 流末帧 ResponseMeta 里的三个数字:finish_reason=length、prompt_tokens 超过窗口、 completion 为 0(§5 三条子检)。
staged 落库:折叠产物(StagedCompaction{DropRunIDs, Summary, AttachRun})发送前 只活在内存;run 结束(EndRun)且 status=complete 时与放闸、定稿同一笔 PG 事务写入。 它是「这次折叠有没有真发生」的唯一判据——只改当次输入不落库,下一条消息面对的 仍是会再次撞墙的原历史。
§1 病灶:估算错了之后,会话是怎么死的
现役折叠链的全部信心压在「估算准确」上:发送前数一遍 cl100k,超 limit 才折叠,留 1/5 窗 当误差垫。这个信任一旦落空,现状是纯死。三场戏按死因分开演:
戏一(已治,登记为证据):摘要超产卡死。 2026-10-11 C2 验收实录(deepseek-flash): dev 用小窗旗标(window 600 / limit 480)逼折叠;这个模型的摘要体积 ≈ 输入 0.7×, S+tail 顶穿 limit → foldInput 走 errStillOver → run error、零写入。用户重发同一会话的 下一条:失败消息的 user 半留在 mh(该场是 errStillOver → 失败且无产出 → 仍只留 user 半), 可见集只增不减,S 必不 小于上轮 → 每条后续消息都重演同一失败,会话卡死到人工干预或换窗。这个死因已由 C5 治掉(结构化摘要 + 分档预算上限 + POST 准入的恒有解推导,19v6-07 §5)。它登记在这里 是因为它是「没有兜底层 = 会话卡死」的活体证据,不是假设。
戏二(本篇治):拒收死循环。 估算少数了(§0 列了四种错法),发送前自测放行, provider 以「太长」打回 → run error、零写入 → 用户重投 → 估算还是同样错、历史还更长了 一条 user 行 → 同样被拒。与戏一同构的死循环,但案发点在 provider 那里:foldInput 的 errStillOver 至少带诊断参数、是个响亮错误;provider 拒收在今天只是「agent event error → status=error」里一个普通字符串,没有任何一层认出「这不是普通故障,是该压缩了」。
戏三(本篇治):静默掐头。 provider 不报错:有的厂(WeKnora 注释点名 z.ai)静默收下 超窗输入,只在 usage 里报一个 prompt > 窗;有的厂(点名 Xiaomi MiMo——v6 目录里就有 mimo)把输入掐到窗口填满、completion 0 输出;通有的是输出被窗口余量掐断 (finish_reason=length)。用户看到半句话或空回答,没有任何错误信号;下一条消息 估算还是放行(错是系统性的),同样被掐。会话不死,回答质量阴烂,无人察觉。
病灶一句话:「provider 拒了 / 响应被掐了」今天只进错误出口(run=error)或根本不进 任何出口,没有任何一层把它翻译成「其实该压缩了」。本层就是这个翻译器;并且翻译完 必须落库——只救当次不改历史,下一条消息面对的仍是同一堵墙(戏二的死循环就是这么 闭环的)。
§2 端到端链路与方案落点
今天的链路(▼ = 本篇一期落点,▽ = 二期落点):
用户 POST → 准入(单条 ≤ limit/3)→ 抢闸(PG 唯一索引)→ goroutine Run:
prepareInput:读 mh 可见行 → countInput(估算)
≤ limit → 快速路 | 超 → Run fold(staged 暂存)
▼
ADK 主循环(ReAct 工具环):
┌─ [19v6-10] BeforeModelRewriteState:每轮估算 + mid-run fold ← 撞墙前的主动下刀
├─ 模型调用 ── 报错「太长」→ event.Err
│ ▼ 一期:零帧谓词命中 → 强制折叠 mh → 重跑整条 agent.Run 一次(§6)
│ ▽ 二期:已有帧的中途拒收 → 装饰模型拦截 + 折后形状采用进 state(§8)
├─ 流式排干 → drain EOF 读 ResponseMeta
│ ▼ 一期:三子检命中 → 不救本答,run 末强制折叠落库备下轮(§7)
└─ 工具执行(tool 帧;结果回注 state)
EndRun(唯一 PG 写点):complete 才把 staged(含本篇强折产物)与放闸、定稿同事务落库
每一环四问:检出(谁:①= worker 消费 agent 事件流的 error 分支;②= drain 排干后的 merged 末帧;输入:provider 错误文本 / ResponseMeta 数字;输出:一个布尔 + 一行诊断日志); 强折(谁:foldInput 原链强制进入;输入:mh 可见行 + 真值校准后的目标线;输出:新的 staged 变量);重试(谁:worker 重跑 agent.Run 一次;输入:折后消息;输出:正常事件流); 落库(谁:EndRun 既有事务,staged 变量替换;不新写点)。不动的:四个 API 字节、runlog、 闸、计数口径。
与兄弟层的分工(19v6-10 §9 已裁的关系原样成立):mid-run fold 是撞墙前的主动下刀, 本层是撞墙后的兜底下刀,trimToolResults 是两者都失败后的瘦身出口。
§3 裁定一览
| # | 决策点 | 裁定 | 一句话理由 |
|---|---|---|---|
| D1 | 检测① | 报错文本正则表(24 条命中 + 4 条排除,先排除后命中),照抄 WeKnora overflow.go | 溢出的救援动作是特定的(压了重试一次);误判成普故障 = 这轮白死,误判成限流 = 同一份超窗请求重试到耗尽 |
| D2 | 检测② | drain EOF 读 ResponseMeta 三子检:(a) prompt > window;(b) length + completion=0 + prompt ≥ 99%窗;(c) length + 0<completion<自请预算——(c) 暂缺,启用条件登记 §5 |
主循环今天不自请 max_tokens ⇒ 没有「自请预算」可比;宁漏不误 |
| D3 | 一期救援面 | 只救 run-start 拒收:谓词 = event.Err 命中① ∧ 本 run 零帧 ∧ 未救过 → worker 重跑整条 agent.Run 一次 | 零帧 ⇒ 无副作用可重复(start 帧在 POST 侧、工具未执行、turn 为空);有帧后重跑 = 帧重复 + 写工具双执行 |
| D4 | 救援折叠目标线 | foldInput 原链强制进入;目标线真值校准:limit' = 被拒/被掐输入估算 × 4/5;①的报错文本能提出窗真值时取更紧者(×4/5);提不出 = 盲降这一档 | 救援的全部前提就是「limit 这个数本身不可信」——拿同一个 limit 当验收线 = 用谎言校对谎言 |
| D5 | 一次性闸 | 一面 overflowRecovered per run,①②共用;重试再溢出 → 正常错误出口 |
第二次溢出说明病因不是历史大小(WeKnora 同判) |
| D6 | 落库 | 强折产物走 staged 变量替换,EndRun 唯一写点原样;必须落库 | 不落库 = 下条消息重撞同一堵墙(戏二的死循环闭环) |
| D7 | ②不救本答 | 截断答案原样保留、run 正常 complete、响亮日志 + 强折备下轮;②强折失败不杀 run(日志登记,答案已在手) | 帧面 append-only 无撤回帧,重发 = 半截+全文粘连的可见事故 + mh 合并文损坏 |
| D8 | mid-run 救援 + trimToolResults | 二期,依赖 19v6-10 的 state 机制;trim 有效域诚实登记 §8 | 中途下刀要消息粒度三件套(10 的施工面);Run fold 的 n=0 候选里没有 trim 的靶子 |
| D9 | 预留重裁 | 三期:reserve = min(window/5, 16384),limit = window − reserve;两处计算收一个函数;闸门 = 一期在真 provider 上真兜住过一次 | 预留与修复层互为替代(19v6-07 §1 原裁);16384 出处 = WeKnora settings.go 固定 16k |
| D10 | 失败哲学落点 | 维持干净 A(登记的待裁就此关闭);救援链自身失败 = 原始错误原样走 error 出口 + 分类日志 | n 降档循环已是「折半重试」的泛形(B 无新增面);Degraded 三层标记前提仍缺(19v6-07 §3 存档不动) |
| D11 | 计数口径 | 不动:cl100k 全量 BPE,schema 不计入原样登记 | 本层不替代估算,只在估算失手时兜底(登记原话) |
§4 检测①:报错匹配(24 + 4 两张表)
机制:模型调用返回的 error 取 .Error() 文本,先过排除表、命中即判非溢出;再过 命中表,命中即判溢出。表全照抄 WeKnora overflow.go(2026-10-11 实读版本),一条不改:
命中表(24 条,(?i) 不分大小写;括注 = 该条出处厂商):
prompt is too long Anthropic
request_too_large Anthropic(HTTP 413)
input is too long for requested model Amazon Bedrock
exceeds the context window OpenAI
exceeds (the )?(model'?s )?maximum context length OpenAI 兼容代理
input token count.*exceeds the maximum Google Gemini
maximum prompt length is \d+ xAI Grok
reduce the length of the messages Groq
maximum context length is \d+ tokens OpenRouter
exceeds (the )?maximum allowed input length OpenRouter / Poolside
is longer than the model'?s context length Together AI
exceeds the limit of \d+ GitHub Copilot
exceeds the available context size llama.cpp
greater than the context length LM Studio
context window exceeds limit MiniMax
exceeded model token limit Kimi
too large for model with \d+ maximum context length Mistral
but the configured context size is DS4
model_context_window_exceeded z.ai
prompt too long; exceeded (max )?context length Ollama
range of input length should be DashScope / 通义
context[_ ]length[_ ]exceeded 通用
too many tokens 通用
token limit exceeded 通用
排除表(4 条):throttling / service unavailable / rate limit / too many requests。
为什么排除表先跑:Bedrock 限流报文是「ThrottlingException: Too many tokens, please wait before trying again」——命中表第 23 条会把它误判成超长。误判代价不对称:溢出误判成 限流 = 同一份超窗请求被重试到耗尽(慢死);限流误判成溢出 = 白白压掉历史换一次重试 (历史冤死)。两害相权先认排除。 (登记勘正:需求登记版称「23 家」是厂商数口径;实表 = 24 条正则、20 家具名 + 1 条兼容 代理 + 3 条通用,以表为准。)
验证范围(登记原话照执行):「24 条」是表覆盖的面,不是 v6 的目标清单——只验证 v6 实际在用的协议两家(openai 系 / anthropic 系)的 eino 组件错误文本形状(组件怎么包 provider 的 HTTP 错误体,施工期实读钉 fixtures),其余原样照抄不逐一搭环境验证。
没它会怎样:戏二。provider 拒收在 v6 今天的代码里只是一句普通 error 日志,run 死、 历史不变、下条消息再死一次——「该压缩了」这个信息明明写在报错里,却没人读。
§5 检测②:成功但被窗口截断(三条子检)
检出点:drain 排干到 EOF、ConcatMessages 归并之后——merged 的 ResponseMeta 带 FinishReason 与 Usage。管道已在:openai 组件恒开 IncludeUsage、claude 组件 messageDelta 同面带(C2 plumbing 实读结论,摘要链已在用同一组件实例),主循环 drain 今天只是没读它——本篇开始读,零新装配。
三条子检(任一命中即判被掐;window = -compact-window 旗标值,操作者声明的窗):
- (a)
prompt_tokens > window——provider 静默收下超窗输入、usage 里报了实数(z.ai 形态)。 这条还白送一个观测面:provider 实数 P 与估算 C 的偏差从此进日志(§7)。 - (b)
finish_reason=length且completion=0且prompt ≥ 99%·window——输入被掐到 填满窗口、一个字没生成(MiMo 形态)。 - (c)
finish_reason=length且0 < completion < 自请预算——输出不是被自己的上限 掐的,只能是被窗口余量掐的。暂缺:主循环今天不发 max_tokens,没有「自请预算」 这个数可比较;不配预算时有些 provider 会套默认输出上限(DeepSeek 默认 4096),那种 length 是配置语义不是溢出,误判 = 每次正常长回答都冤折一次历史。启用条件(登记): 主循环引入显式 max_tokens 旋钮那天(候选 = 复用TAKO_MODEL_MAX_OUTPUT),(c) 同拍 启用——那是配置面用例,不属本篇施工面。
边界:压缩关(window=0)= 本层关(两条子检都要 window,同计数器同生死)。 盲区(诚实登记):(c) 缺位期间,「真被窗口掐且 completion>0」的形状检不出——会话 不自愈、但也不退化(下轮估算路径照常工作);漏判代价 < 误判代价,方向是对的。
没它会怎样:戏三。没有 (a),「窗标填小了 / 分词器偏差大 / schema 没数进去」这三类 系统性错估永远无声——估算链每轮都自信放行,provider 每轮都掐,用户每轮拿半句话, 日志一个字没有。
§6 一期 A:run-start 拒收救援(检出 → 强折 → 重跑一次 → 落库)
谓词(四个条件同真才救):
event.Err != nil && IsOverflowError(err) // ①命中
&& event.AgentName == "" // 只救主线程(子代理登记不救,§11)
&& 本 run 已发帧数 == 0 // 零帧谓词(下段)
&& !overflowRecovered // 一次性闸(D5)
零帧谓词为什么是救援的边界:重跑 = 整条 agent.Run 从头再来。零帧时它是干净的—— start 帧在 POST handler 侧压入(server.go,不在 agent.Run 里)、任何工具都还没执行 (turn 为空 ⇔ 第一轮模型调用就没回来)、delta 一帧未发;重跑发出的事件流就是客户端 看到的全部,runlog/mh 也只有一份。有帧之后绝不能重跑:已发的 delta/tool 帧在 runlive 里 append-only 撤不回(重跑 = 客户端看到双份),写工具会执行两遍(write_file 写两次 = 副作用事故)。所以中途拒收(已有帧)一期不救,原样走 error——那正是二期的 面(§8)。判定实现:worker 给本 run 记一个「成功 AppendFrame 次数」计数, 谓词直接读它。
强折(谓词命中后):重读 mh 可见行(不沿用 prepareInput 的本地变量——它可能已折过, 原料要原文)→ foldInput 强制进入(给它开 force 入口:前提注释从「超限才该进」改写为 「超限或本层强制」;链本身——转录 / summarize / 验货 / fileOps 钉块 / 收口——一行不动), 目标线用真值校准(D4):limit' = 被拒输入估算 C_rej × 4/5;报错文本能提出窗真值 (取报错里「不超过 C_rej 的最大整数」,且 ≥1024 防把「retry 3 times」的 3 当真值; 例:「maximum context length is 8192 tokens, you sent 10000」→ 8192)时取 min(真值×4/5, C_rej×4/5)。理由:被拒本身已证明「真窗 < C_rej 的真值」,拿原 limit 当 验收线 = 用谎言校对谎言(戏二里 limit 正是错的那个数);提不出真值时,×4/5 盲降一档 是最小严格进步的有界抽签,抽不中走干净 A(这是单发兜底不是收敛循环——收敛要靠 运营商把窗标填对,日志会把真值喊出来)。 折完重建消息(prepareInput 的映射段原样复用),staged 变量替换为这次强折产物—— 两次折叠都从最老折起,深折的 drop 集合恒包浅折,替换安全;EndRun 只落最后这份。
重试:同一条 ctx 里再调一次 agent.Run(watchdog 同闸同租约,无新生命周期)。 重试的事件流进同一个消费循环;重试再被拒 → 闸已花 → 原始错误走既有 error 出口 (status=error、零写入、强折产物随 staged 一起丢弃——下条消息重压,日志里已留真值 供运营商修窗标)。
落库的必须性(D6,卡死故事的另一半):强折成功且重试跑完 = run complete,EndRun 同一笔事务落 compacted 标记 + seq=0 摘要行。少了这一步,救活的就是这一轮而已—— mh 原样,下条消息估算还是放行、provider 还是拒,戏二照演。落库后下条消息的 prepareInput 看到的是折后历史,这堵墙在库里消失了。
日志行(观测面,帧面零变化):检出时打 overflow rescue: provider 拒收(估算 C tok; 真值 W' 或盲降);强折 k 个 run,摘要 S tok;重试;失败时带分类(强折 errStillOver / summarize 失败 / 重试再拒)。
§7 一期 B:截断检出(不救本答、救会话)
为什么不救本答(v6 与 WeKnora 的分叉点,裁决级):WeKnora 检出②后原轮重发 (engine.go L694–709),它能这么干是因为它的应答经事件总线带 answerID、客户端可替换; v6 的帧面是 append-only——被掐的半截答案已经作为 delta 帧发出去了,没有「撤回 / 替换」帧。原轮重发的代价:runlive/draft 里半截 + 新全文粘连(用户看到两份)、drain 归并出的 assistant 行 = 两段拼接(mh 落一份损坏正文)。想干净重发只有缓冲整条流、看到 finish_reason 再决定放不放行——为一个小概率事件杀死全部响应的流式性,代价错配。 所以②的救援目标从「救回这条回答」改为「救回这个会话」:被掐的半截答案原样保留 (它本身就是给用户看的可见信号),run 正常 complete。
为什么不走 error 出口:error 结局不落 staged(staged 只在 complete 分支落库)⇒ 强折落不了库 ⇒ 下条消息同样被掐 ⇒ 戏三闭环成死循环。complete + 落库是唯一自愈形状。 (2026-10-22 的失败留痕只改了「error 自己那部分内容落不落」,没改 staged 的落库条件 → 本推理原样成立。)
流程:drain EOF 检出②命中(且闸未花)→ 记 pendingForceFold + 本 run 起手估算 C (prepareInput 记下放行时的 countInput 结果,一并传出;run 中途轮次胀出来的部分不追—— C 低估 = 强折更深 = 安全方向)→ run 事件流正常排完 → EndRun 前对 mh 强折一次 (limit' = C × 4/5,同 D4 一族)→ staged 替换 → complete 落库。②强折失败 (errStillOver / summarize 败)不杀 run——答案已在手,折不成只是下轮没备好, 日志登记了事;与①失败杀 run 的不对称,分界就是「答案在不在手」。
收敛性:②的闸防的是同一 run 内反复触发;跨 run 它是逐次自愈——每次被掐都强制 折深一档且落库,历史单调收缩,直到估算 + 误差不再顶穿真窗。
没它会怎样:戏三无人察觉地烂下去。有了它,至少(a)日志喊出「实数超窗 / 被掐」, (b)下一条消息面对的是折过的历史,(c)窗标填错的运营商会在日志里看到真值。
§8 二期:mid-run 拒收救援 + trimToolResults(依赖 19v6-10,同立项)
一期救不了「已有帧的中途拒收」(§6 零帧谓词的反面),那是读大文件长 run 的死穴 (19v6-10 §1 的剧本:工具结果把上下文在 run 中途顶穿)。二期两件,施工排在 19v6-10 落地之后——中途下刀要的消息粒度三件套(交换单位 / role 回扩 / 在途豁免)是它的 施工面,不在本篇重造。
拦截器形态 = 装饰模型:eino 的 WrapModel 钩子签名是「给一个模型、返回一个包装 模型」(handler.go L231–254),是装饰器不是「包一次调用」;每次流式调用端点都过包装 (wrappers.go L1137)。装配期(或经该钩子)把主 chat 包一层 overflowGuard:Stream 返回 错误 → IsOverflowError → 从 ctx 取本 run 的救援句柄(worker 起手塞)→ 闸已花则原样 上抛 → 否则用 19v6-10 的消息粒度折叠链折这份被拒输入(三件套守门),重调内层 Stream 一次。工具不重执行、帧不重发(被拒调用一帧未出),这是它相对 worker 级重跑 能救中途的根本原因。
采用(adoption)——没它会死:装饰器折的只是「这一次调用的输入副本」,agent 的 state 还是鼓的;而估算错是系统性的——下一轮 BeforeModelRewriteState 还说没事 (它用的是同一个错估算),下一轮调用再被拒,一次性闸已花,run 照死。救一轮不救 state = 把死缓一轮。所以救援句柄同时是 run 槽位:装饰器把折后形状写进槽位,下一个 BeforeModelRewriteState 先查槽位——有待采用折叠就把 state 消息替换成同一份(不 重新 summarize:同一段历史不能有两份漂移的摘要)并记 staged(19v6-10 的 staged 列表 本就收多件);run 在采用前结束(被救的恰是最后一轮)→ EndRun 把槽位里的 staged 直接 落库。
trimToolResults(同宗姊妹项,本篇裁定 = 同立项、落二期):规则四件照抄 WeKnora observe.go——压缩已发生仍超阈时,候选里的工具结果总预算 = window/5(clamp [8192, 32768]);全部工具结果先换 marker(原字节数记账);预算内从最新往回还原文本; 放不下的给 1/4 头 + 3/4 尾预览夹;copy-on-write,mh 留档原文一个比特不动。 有效域诚实登记:它的靶子是「候选里还活着的工具结果行」——Run fold 的 n=0 候选 = [摘要] + [user 行],没有工具行,trim 在 Run fold 世界里恒空转;戏一(摘要超产卡死) 的真凶是摘要体积,trim 救不了它(C5 已治的那个)。trim 的真主场 = 当前 run 保留区里的 肥工具结果与二期救援候选。启用点 = 折叠定案循环 n=0 仍超时, 先 trim 候选再判 errStillOver——折叠恒优先于瘦身:折叠的信息进摘要还在,瘦身的 信息直接消失,所以瘦身永远排最后。没它的世界(现状):压缩尽力之后只剩 errStillOver 整轮 error 一个出口;有了它,中间多一层「既不 error 也能发出去」。
有效域勘误(2026-10-16,B4 活体验收发现;证据 tmp/19-v6/evidence-overflow/b4/): 「真主场 = 保留区肥工具结果」在活体上恒空转——三个出口的候选枚举:① phase-1 n=0 出口 (老 run 折尽、当前 run 无单位)候选 = [摘要] + [user 行],无工具行;② phase-2 折尽出口 (units 全折仍超)rest 为空、同理无工具行(且其「仍超」被 5/6·limit < limit 恒有解挡死, 19v6-10 §9 已论证);③ 保留区的工具行只出现在 phase-2 封顶出口(每档收缩仍超、 尝试次数封顶)——它要求当前 run 的交换单位数 ≥ 21,而 ADK 迭代上限默认 20 (eino@v0.9.21/adk/react.go:345 maxIter := 20;worker.go 装配未设 MaxIterations), 一个 run 的模型调用 ≤ 20 ⇒ units ≤ 20 ⇒ 封顶出口活体不可达。结论:trim 有效域 = 「迭代上限放开(>21)后的封顶出口」;当前栈下无活体时点,算法本体由单测钉 (trimBudget clamp / 最新优先还原 / copy-on-write / trim 过关定案 / trim 后仍超 / 循环守卫),活体回归半边(mid-run 折叠照旧收敛、无 trim 行、库形状两代二进制同形) 在 B4/B5 证据。规则四件与「折叠恒优先于瘦身」的裁定均不变。
同日收口(2026-10-16):用户裁定默认迭代上限放开 = 50(agentMaxIterations,worker.go 常量,主 / 子代理两装配点同值——同一类模型循环不设两套上限)。同话本① 活体重放两跑(证据 tmp/19-v6/evidence-overflow/b4-max50/):21 轮越过旧默认 20——到 21 个单位时进 phase-2, 逐档收缩 20 个未收敛、触真·封顶出口,trim 接手过关——日志 compact trim: 候选仍超线, trim 工具结果(预算 8192 tok,还原 0 条,夹 1 条),run 跑完 terminal{complete};落库五行 (摘要 / user / 保留调用行 / 瘦身后的工具行(原 187989 字节 → 正文 6307 字符:marker + 1/4 头
…〔中段省略〕…+ 3/4 尾)/ 终稿),第二跑留帧原文。trim 自此 = 单测 + 活体双形态钉, 封顶出口从理论有效域变为实际时点。
§9 三期:预留重裁(×4/5 → 固定档;闸门 = 一期真兜住过)
19v6-07 §1 的原裁:×4/5 预留同时当「响应空间 + 估算误差垫」,维持不动只是因为 修复层缺位——预留与修复层互为替代。本层一期落地后,误差垫的职能移交给兜底层, 预留重裁为:reserve = min(window/5, 16384),limit = window − reserve。
- 256k 窗:limit 204800 → 239616,吃回 34816 ≈ 35k(19v6-07 §1 预告的数)。
- 16384 出处 = WeKnora settings.go 固定 16k(回复大小不随窗口缩放)。
- min 的连续档:window = 81920 处两种算法相交,之下退化为 ×4/5——dev 小窗测试 (600 窗 → limit 480)零变化,不留新魔法边界。
- 改动点:limit 的计算今天散在两处(worker 装配 + summarizeCeiling 小窗式内部), 收成同一个
compactLimitFor(window)纯函数两处调用;POST 准入 limit/3、恒有解推导 都是 limit 相对式,自动跟随不动。 - 闸门(登记原话照执行):禁止只重裁不落地;三期动工凭证 = 一期在真 provider 上 真兜住过一次溢出(§12 话本的实测记录)。回改联动:19v6-07 §1 该条翻案 + 19v6-90 追加修订,同拍完成。
状态(2026-10-12):已落地。 函数 CompactLimitFor(window)(compact.go,导出供启动 日志)+ 两处计算接线(worker 装配 compactLimit / summarizeCeiling 小窗支)+ 展示位同步 (main 启动行 / flag help / 探针注释);19v6-07 §1 翻案与 19v6-90 十五修同拍完成。实测 (证据在 tmp 台账溢出节 a5-limit):W=100000 双二进制差分——同一份 cl100k 27270 tok 请求, 旧二进制 413 limit:80000 / 新二进制 202 放行,body-hi 28250 tok → 413 limit:83616; W=21000 话本重跑 fold 行 > limit 16800 与 A4p2 基线逐值同(小窗零变化活证);启动行 两档断言 256k → 239616、600 → 480;单测 TestCompactLimitFor 八锚(含 81920 交点两式 同值 65536)。
§10 失败哲学落点(登记的待裁,立项当天关闭)
登记版留的待裁「error / 折半重试 / Degraded 三层标记的落点」,裁定 = 维持干净 A:
- B(折半重试)的对象是「摘要输入本身超窗」——foldInput 的 n 降档循环已是它的泛形 (被压段逐档缩小、每档一次 summarize),B 没有新增面;
- C(Degraded 降级)的三层标记前提(有界 / 响亮 / 诚实)仍缺,19v6-07 §3 的存档原样 不动,真用例逼出时再重开;
- 救援链自身的失败(强折 errStillOver / summarize 失败 / 重试再拒)不发明第四态: 原始溢出错误原样走既有 error 出口,失败分类进引擎日志(与 C2 同一条观测纪律)。
§11 明确不做
- 不为 24 条正则逐家搭验证环境(§4:只验 v6 在用协议两家的组件错误文本形状)。
- 不接 Usage 基线 + delta 计数(19v6-07 §1 复审项原样挂着,与「schema 是否计入触发」 绑定裁决,不属本层)。
- 不救子代理溢出(一期二期都不):同宗于 19v6-10 §10「子代理内部不压」——子代理 状态进程内即弃、回传有 50KB 裁剪,压它没有消费者。
- 不动四个 API 的字节、不动 runlog、不动计数口径(D11)、不加任何帧 kind。
- 不引进 WeKnora 三重防反复闸(19v6-10 §11 已裁「不需要」;本篇的一次性闸是另一物—— 防「救完又救」,不是防「压完又压」)。
- 主循环 max_tokens 旋钮不进本篇(§5 子检 (c) 的启用前提,等配置面用例)。
- 不做 Degraded / 折半重试(§10)。
§12 验收口径(curl 话本草稿,供拆 todos;判定行 = curl + 日志 + psql)
①救援(一期 A)——真溢出驱动,不造假: 默认窗标 256000(对 DeepSeek 真窗 ~128k 量级本就是上行谎言;确切真窗 dev 校准)+ 脚本循环 POST 中等消息(每条 < limit/3 准入线)塞历史。估算线 204800 远高于真窗 ⇒ 某条 POST 估算放行、provider 拒收 → 断言链: 引擎日志出 overflow rescue 行(报错摘要 + 真值/盲降值 + 折 k 个 run)→ frames 有 delta、terminal=complete(无 error)→ psql:被折行 compacted=t + 新 seq=0 摘要行 → 再 POST 一条正常完成(墙已消失)。 加速变体:本机有真小窗模型(Ollama llama3 8k)时,窗标撒谎(256000 对 8k)同剧本。 单测 fixtures:24+4 正则逐条过表(含 Bedrock throttling 反例——「Too many tokens, please wait」必须判非溢出);真值提取(「maximum context length is 8192 tokens, you sent 10000」→ 8192);零帧谓词(有帧后拒收不救)。 负路径:重试再拒 → status=error、frames 只有 start+terminal{error}、psql 零 compacted 写入、日志见「已救过不再救」。
②检出(一期 B)——usage 白检驱动: 窗标 4000(limit 3200)+ 正常会话:整套工具的 schema(数千 tok,不计入估算)把 prompt_tokens 顶过 4000 ⇒ 响应 usage 命中子检 (a) → 断言链:日志出「实数超窗」行 (带估算 C 与实数 P 的偏差)→ run 照常 complete → psql 见强折落库 → 随历史收缩 停止触发(收敛性活证)。(b) 子检单测 fixture 钉,真机复现(MiMo 形态)登记为 dev 实测项。负路径:provider 默认上限掐的 length(completion 贴默认上限、prompt 远小于窗) 不误报、不折叠。
公共:四端点(POST / session / frames / log)baseline 原样重跑逐字节同形; compact 既有单测 + C 系列话本回归零变化。二期三期的话本随各自施工期细化 (二期复用 19v6-10 §13 的会话再叠加中途拒收注入;三期 = 同一套话本在新 limit 公式下 重跑 + 256k/600 两档窗的 limit 数值断言)。
§13 施工面清单(顺序即依赖序;每拍验收 = §12 对应话本)
- ✅ ①救援链(2026-10-12 落地,第一拍能被 curl 打到):overflow.go 新文件(两表 + IsOverflowError + 真值提取,纯函数 + fixtures);worker 侧——帧计数、救援谓词、prepareInput 传出 放行估算、foldInput 开 force 入口与限值参数、强折 + staged 替换 + agent.Run 重跑、 一次性闸、日志行。验收 = §12「①救援」全链。
- ✅ ②检出与 run 末强折(2026-10-12 落地):drain EOF 读 ResponseMeta((a)(b) 两子检)+ pendingForceFold
- EndRun 前强折 + 日志行。验收 = §12「②检出」全链。
- ✅ 回归网(2026-10-12 落地):四端点 baseline + 负路径 + compact 既有单测与 C 系列话本重跑。
- ✅ 二期(2026-10-16 落地,B1–B5):装饰模型拦截器(WrapModel 缝)+ ctx 救援句柄/run 槽位 + 钩子采用双点(BeforeModelRewriteState 主路径 / AfterAgent 兜底)+ trimToolResults n=0 兜底 (规则四件;有效域勘误见 §8)。验收 = §12 二期话本 + B5 回归网重放(证据
tmp/19-v6/evidence-overflow/b1…b4/、b5-regression/)。「EndRun 槽位落库」施工等价 旁注(D15):不新增 EndRun 逻辑——guard 折成即appendStaged进现役 staged 列表, EndRun 吃列表的现役路径天然落库(零写入家族不变;「采用前 run 结束」场景同被覆盖, 即被救的恰是最后一轮时由 AfterAgent 兜底采用点收口)。 - ✅ 三期(闸门见 §9,2026-10-12 落地):
compactLimitFor一处函数 + 两处接线 + 19v6-07 §1 翻案与 19v6-90 追加。
§14 文档联动
- 19v6-07 §5「溢出修复层」条与「trimToolResults」条:指针翻为「立项方案 = 本篇」 (本次已改);机制细节以本篇为准。
- 19v6-07 §0 链路图旁路行:指针翻为本篇(本次已改)。
- 19v6-10 §9 的关系行原样有效(mid-run fold / 本层 / trim 的三层分工不变)。
- 19v6-90 已追加十五修(2026-10-12 三期落地:limit 公共底数重裁为
window − min(window/5, 16384)——413 错误体的 limit 数值随公式变,19v6-01 对应 行已同步;机制细节以本篇为准)。 - tmp/19-v6/planning.md §10.6-④ 的登记状态随施工台账更新,验收后随台账清理。
联动核对(2026-10-16,二期收口):以上各条均仍有效、指针无需改——§8 有效域勘误只缩小 trim 的触发面描述,不改变三层分工(19v6-10 §9「mid-run fold / 本层 / trim」中 trim 仍排 最后);19v6-07 §5 两条与 §0 旁路行的「以本篇为准」指针照旧。
§15 常见疑问(2026-10-11 用户澄清,钉死四个易混点)
本节的目的:本篇前文用「估算失手 → provider 撞墙」概括病灶,但「为什么估 算会失手」「provider 的反馈到底有没有拿到」这两件事,如果不钉到代码行, 读者会以为「那就把估算改准不就行了」。下面四个问答把这堵墙拆到能看见砖。
Q1:provider 的真实反馈(报错文本 / ResponseMeta),之前是收不到还是没处理?
答:能收到,没处理。 两条路径都是。
路径一(拒收): provider 报错进了 event.Err(worker.go Run 循环, if event.Err != nil 分支)。event.Err.Error() 里就是 provider 回的 "maximum context length is 128000 tokens, you sent 138500"。现役代码在 这个分支只做两件事:打日志 + status="error" + return。没有任何一 行去读错误文本的内容、判断是不是溢出、然后触发折叠。
路径二(静默掐头): drain 返回的 merged 里带着 ResponseMeta (merged.ResponseMeta.Usage.PromptTokens、merged.ResponseMeta.FinishReason), 但消费侧(worker.go turn = append(turn, TurnEntry{... Text: merged.Content, ToolCalls: merged.ToolCalls ...}))只读了 Content 和 ToolCalls, ResponseMeta 被丢弃了。
旁证:compact.go 摘要链路的 attempt 里其实已经在读 ResponseMeta (取 FinishReason 与 CompletionTokens 做三层验货)——同一个 eino 组件 实例、同一种元数据,摘要链读了,主循环没读。所以不是管道不通,是消费侧 没接。
Q2:这些检测信号(报错文本 / prompt_tokens / finish_reason)涉及思考过程吗?
答:不涉及。全是 HTTP 协议层的元数据,跟模型的"思考内容"无关。
| 信号 | 真身 | 类比 |
|---|---|---|
报错文本 "maximum context length is 128000 tokens..." |
provider HTTP 响应体里的错误消息字符串 | 外卖 app 显示"商家拒单:超出配送范围" |
prompt_tokens |
ResponseMeta.Usage.PromptTokens,整数 |
订单上的"本次配送里程" |
finish_reason=length |
ResponseMeta.FinishReason,字符串枚举 |
订单状态"超时取消"(平台元数据,不是厨师脑内步骤) |
模型的"思考过程"在 eino 里是 Message.ReasoningContent 字段,Content 是正文,ResponseMeta 是这次 HTTP 调用的服务方账单。它不是模型想出来 的内容,是 provider 作为服务方给的回执。
Q3:countInput 数了什么?缺什么?为什么缺?能不能补?
真身(compact.go countInput):
func countInput(counter TokenCounter, system string, msgs []ModelMessage) int {
n := 0
if system != "" { n += counter.Count(system) }
for _, m := range msgs { n += counter.Count(m.Text) }
return n
}数了: system + 每条消息的 Text 字段。 缺两样:
| 缺的东西 | 真身 | 能补吗 | 为什么没补 |
|---|---|---|---|
| ToolCalls | ModelMessage.ToolCalls []schema.ToolCall,还原成请求体是 JSON |
能补(已裁 = 19v6-10 D3 把 tool_calls JSON 并进 countInput 基数,随其施工落地;本篇 §0 括注同口径) | 现状只数了 Text——补法:遍历 m.ToolCalls 数 Function.Name + Function.Arguments |
| 工具 schema | 每次请求重发的工具声明清单(name/description/parameters JSON) | 难补 | schema 不在 worker 视野里——ADK 在 agent.Run 内部拼进请求体,worker 拿不到最终字节;且子代理工具每轮动态装载(newAgentSpecHandler 扫 agentsDir) |
schema 为什么难补的展开:调用链是 prepareInput 组 msgs → w.agent.Run(ctx, &adk.AgentInput{Messages: msgs})。工具声明在 ADK 内部拼, worker 层面只有 pool(root 的工具池,启动时固定),没有子代理每轮 动态装载后的最终 schema 字节。要准确数,必须在 model.Stream 调用处拦截 最终请求体——那是 eino 组件内部,worker 碰不到。
理论上的近似(不做):装配期把 root 工具 schema 渲染成 JSON、数一次 token 当常量加进 limit 预留。但子代理 schema 每轮变算不准;且即使算准了 schema,分词器偏差(Q4)还在。所以 D11 裁定「schema 不计入原样登记」, 不在估算层死磕,靠溢出修复层兜底——有意的架构选择,不是疏忽。
Q4:分词器偏差——是估算不够准,还是根本做不准?
答:多 provider 场景下,发送前根本做不准。
v6 目录 30+ provider(DeepSeek / Kimi / GLM / Qwen / MiMo / Doubao……) 各用各的分词器。cl100k 是 OpenAI 的,DeepSeek 有自己的,Claude 有自己的。 同一段中文:
cl100k 数: 10000 token
DeepSeek 数:12500 token(差 25%)
要做准就得给每个 provider 配自己的分词器,但:
- 维护成本高(30+ 分词器、各自词表与算法);
- 部分 provider 不公开分词器(MiMo、Doubao);
- 即使配了,provider 内部特殊 token(控制符、标记)你数不到。
所以架构选择:估算用 cl100k 一个通用器 + 留 1/5 窗口当误差垫 + 溢出修复 层兜底。三者配合,不在估算这一层死磕到完美。溢出修复层存在的全部理由就 是「估算可能错」——如果估算能做准,本层没必要存在。
本节一句话收束
Q1 说「反馈在但没接」,Q2 说「反馈是协议元数据不是思考内容」,Q3 说「估 算缺 ToolCalls(能补)和 schema(难补)」,Q4 说「分词器偏差多 provider 下 做不准」。四件事合起来 = 估算永远有误差面,所以必须有一道兜底层在 provider 撞墙后接盘。 这就是本篇的全部存在理由。
§16 Handoff(给下一位读本篇 / 接着施工的人)
你刚接手的是什么:本篇是「溢出修复层」的立项方案——给现役 compact 链(发送前估算驱动的主动折叠)加一道「provider 撞墙后接盘」的兜底层。 一期两件:① run-start 拒收救援(强折 + 重跑一次)、② 截断检出(不救本答、 run 末强折落库备下轮)。二期 mid-run 中途救援 + trimToolResults,三期预留 重裁(×4/5 → min(window/5, 16384),已落地)。
施工前必读的三段代码:
- worker.go
Run的event.Err分支(Q1 路径一,加救援谓词的地方); - worker.go
drain返回后的消费行(Q1 路径二,加 ResponseMeta 读取的地方); - compact.go
foldInput(强折复用同一条链,开 force 入口 + 限值参数)。
最容易踩的三个坑:
- 误以为「把估算改准」就能替代本层——Q3 的 schema 和 Q4 的分词器 偏差决定了估算永远有误差面,兜底层不可省。
- 一期 A 救援的零帧谓词不能破——有帧后重跑 = 帧重复 + 写工具双执行 (副作用事故)。中途拒收是二期的面,一期不救。
- 截断检出(一期 B)必须走 complete 落库,不能走 error——error = 零 写入家族,强折落不了库,下条消息同样被掐 = 戏三死循环。
不动的东西(避免施工面蔓延):四个 API 字节、runlog、闸、计数口径 (D11)、不加任何帧 kind。
验收的最小闭环(§12 话本):① 真溢出驱动(窗标撒谎或历史塞到估算放行 但 provider 拒收)→ 日志出 overflow rescue + frames 无 error + psql 见 compacted + 下条正常完成;② usage 白检驱动(schema 把 prompt_tokens 顶 过 window)→ 日志出「实数超窗」+ run complete + psql 见强折落库 + 随历 史收缩停止触发。
依赖与前置:二期依赖 19v6-10 的 state 机制(消息粒度三件套);三期闸 门 = 一期在真 provider 上真兜住过一次。一期无前置,可直接拆 todos 动工。