tako 文档 GitHub

用量怎么让用户看见

模块:用量可见 / 前端(internal/runengine/worker.go + web/src/)| 状态:已落地(c211637,2026-10-21)| 证据:doc/27-用量可见.md、tmp/27-用量可见/planning.md

1. 场景与病灶

用户聊了一下午,想知道「上下文还剩多少、这条回复花了多少」。今天唯一把 token 数透给用户的时刻是 413 message_too_large——而且只在死后说话:墙已经撞上了才告诉用户墙在哪。用户既不能提前开新会话,也不知道 413 之前已经压过几轮。

要让这件事可见,要回答五个问题:长什么样、没数据时怎么办、历史回看存哪、看见了要不要替用户做决定、百分比的分母是什么。

2. 候选与代价

问题 候选 好处 代价
展示形态 A pi 式 footer 一行小字(>70% 橙、>90% 红) 轻量、每轮更新 没有明细拆分
B Octop 式 segments 环形图 知道钱花在哪 要动 countInput 基数;第一版用户要的是一个数,不是饼图
C 不做 零成本 继续 413 死后报数
没账单时 A 发 0 简单 用户以为上下文空了,误导决策
B 不发帧、前端显示「?」 诚实,与 pi 压缩后无新响应前的 ?/200k 同款 用户看不到具体数
C 发本地估算 有数 假数与引擎真值分叉
历史回看存哪 A 新表 语义干净 多表、多一致性缝、多一次清扫
B 复用 runlog_entries.payload,按 role 分派 零 schema 变更 列语义变宽,读侧要按 role 解释
C 不存 简单 usage 帧只在 Redis,TTL 一到就蒸发,永远无法回看
看见之后自动动作吗 A 自动压缩 / 自动建议开新会话 省心 夺走决定权;与引擎自动折叠重复或冲突
B 只可见、只变色 决定权在人;压缩仍由 doc/24 的线自动判 用户要自己判断何时开新会话
分母 A 配置窗口 compact-window(定案) 简单、与引擎折叠同一把尺 旗标填错就全错
B 模型真值/自动校准 更准 要扩溢出层的 extractWindow,本篇不碰

裁定:A / B / B / B / A。 一行小字;没账单就诚实地显示「?」;历史用量塞进 payload 列;不自动做任何事;分母是配置值不是模型真值。

3. 同族小裁定

小问题 裁定 代价 / 备注
新帧长什么样? kind=usage,带 promptTokens / completionTokens / window 等 与既有帧同一套序号与续传语义
payload 列注释怎么改? 从「只有工具扩展行有」放宽为「扩展行与 assistant 行(usage)有」,语义按 role 分派 同一列两用,读侧必须按 role 解释
账单三个整数全为 0 怎么办? 按「缺失」处理,不发帧 全 0 与「厂商不报」在语义上都是不可用
费用估算、缓存命中、图表做吗? 不做 第一版只要一个数;countInput 的基数拆分是 doc/24 明令不动的东西

4. 证据

5. 现状

仍有效。百分比分母固定取 compact-window 配置值;模型真值校准仍归溢出层,未动。