tako 文档 GitHub

租户并发闸放进数据库

模块:运行生命周期与并发闸(internal/runengine/)| 状态:已落地(70a7cc0,2026-10-23)| 证据:doc/43-租户并发闸入DB.md、tmp/43-租户并发闸/planning.md

1. 场景与病灶

一个租户(一组员工,共用模型供应商账号与机器)在 tenants.max_concurrent_runs(默认 8)上有一道闸:同一租户内同时最多跑几场 run。它护的是共享资源——供应商的 API 配额与账单、同一批机器的 CPU。

租户 A 现在有 7 场在跑(上限 8,还差 1 场)。张三和李四在同一秒各点一次发送:

时刻 张三 李四
t0 数活 run = 7 数活 run = 7(张三那笔还没提交,数不到)
t0 7 < 8 → 放行 7 < 8 → 也放行
t1 插 run 行 → 活 run 变 8 插 run 行 → 活 run 变 9

结果 9 场在跑。多副本下三个副本各放行一次就是 10 场、11 场——理论上没有上限。更糟的是它没有症状:页面上看不出异常,只是账单曲线比预期陡。

根因一句话:闸在应用层「读-判-写」,不在数据库里。同族的另一道闸(子代理槽位)早就是用 Redis INCR 的原子操作,只有租户这道闸漏了。

2. 候选与代价

候选 做法 好处 代价
A 槽位唯一索引 runs 加 tenant_id + slot_no,部分唯一索引 (tenant_id, slot_no) WHERE status='running';抢闸时 0..max-1 挨个试插 「冲突即满」字面成立;DB 挡住任何写者 要 DDL + 存量回填;running 但租约已过的僵尸行会永久占槽,要另加全租户清扫;上限 N 仍由应用选槽号保证
B DB 互斥 + 计数 同一笔 AcquireRun 事务里:拿租户锁 → 数活 run → 插 runs 行 同上限、同副本数下不可能超发;无 DDL、无迁移;计数口径与今天逐字相同,僵尸行照旧不算活 「满」的证据是计数不是索引冲突;每次抢闸多一次锁等待
C SERIALIZABLE + 40001 重试 把抢闸事务提到 SERIALIZABLE,靠 SSI 检出冲突后重试 无需锁语句 重试会重跑整笔事务,包括最后那步 Redis runliveStart;PG 高并发下失败率不低,闸成了抖动源

裁定:B。 三条理由:保证等价而代价面最小(不动表结构、不动存量数据、不动终态释放路径);没有误拒面(沿用今天的计数口径,僵尸行照旧不算活);不动契约字节(满租户仍是 429 + 113001 + "这个工作区的额度用完了")。

3. 定案细节与同族小裁定

锁取哪把。

取法 写法 好处 代价
租户行锁 SELECT max_concurrent_runs FROM tenants WHERE id=$1 FOR UPDATE 看得见、与上限同一行 要求 tenants 行存在(单测里的 t_test 就没有);会挡 RenameTenant / ArchiveTenant
顾问锁(定案) SELECT pg_advisory_xact_lock(hashtextextended($1,0)) 事务级、提交/回滚自动释放;不依赖任何表行存在;不挡租户改名/归档 调试要在 pg_locks 里看 advisory lock

三条语句,顺序不能换:

① SELECT pg_advisory_xact_lock(...)   -- 拿互斥
② SELECT COUNT(*) FROM runs r JOIN sessions s ...  -- 数活 run
③ INSERT INTO runs (...)              -- 放行

② 不能和 ① 并成一条:READ COMMITTED 下一条语句只拿一次快照。合并时快照在等锁之前就定了,等 A 提交后再数仍看不见 A 那行 → 少数 → 照样超发。锁序是「会话行锁 → 租户闸锁 → 插 runs」,闸锁只在这一处取,不构成死锁环。

overQuota 预检留不留: 保留,但降级为「快速失败提示」。它在抢闸前跑,能在 media 落盘、MCP 连接之前把满租户挡掉;它只能拒、不能放(数到 ≥ 上限就 429),所以不构成超发路径。代码注释写明了「闸在 AcquireRun 里」,免得下一个读代码的人以为闸还在这里。

不做的: 并发额度分成员、拆 codeQuota(doc/42 §4.3 第 2 条,不同批);日 token 配额闸的原子化(语义是「今天花超了」不是「同时跑几场」);「当前活 run 数 / 上限」的新查询接口(GET /api/tenant/usage 已有)。

4. 证据

5. 现状

仍有效。活体验收脚本 scripts/acceptance/tenant_gate.sh 用「上限 N 的租户打 2N 次,验恰好 N 个放行」把这条钉住。