feat(queue): 增加非文本模型分布式准入队列

使用 PostgreSQL 统一同步与异步非文本任务的并发准入、持久化等待和 Worker 容量分配,并将生产 API 与独立 Worker 角色拆分。

补充策略管理、共享契约、OpenAPI、Kubernetes 双节点 Worker 清单及跨节点验收脚本;未默认启用任何生产 queue_size 策略。

已在原基线完成 Go、前端、迁移、Shell、Kustomize 与长任务容量验收;合入最新主干后将重新执行发布门禁。
This commit is contained in:
2026-07-29 16:15:43 +08:00
parent 2e5a90731b
commit 9e4fc7362d
55 changed files with 4565 additions and 237 deletions
+5
View File
@@ -711,6 +711,7 @@ export interface RateLimitRule {
limit: number;
windowSeconds?: number;
leaseTtlSeconds?: number;
maxWaitSeconds?: number;
consume?: 'fixed_window' | 'reserve_then_reconcile' | string;
}
@@ -950,6 +951,10 @@ export interface ModelRateLimitStatus {
modelCooldownUntil?: string;
concurrent: RateLimitMetricStatus;
queuedTasks: number;
waitingSyncTasks?: number;
waitingAsyncTasks?: number;
oldestQueueWaitSeconds?: number;
queueLimit?: number;
rpm: RateLimitMetricStatus;
tpm: RateLimitMetricStatus;
loadRatio: number;