feat(queue): 增加非文本模型分布式准入队列
使用 PostgreSQL 统一同步与异步非文本任务的并发准入、持久化等待和 Worker 容量分配,并将生产 API 与独立 Worker 角色拆分。 补充策略管理、共享契约、OpenAPI、Kubernetes 双节点 Worker 清单及跨节点验收脚本;未默认启用任何生产 queue_size 策略。 已在原基线完成 Go、前端、迁移、Shell、Kustomize 与长任务容量验收;合入最新主干后将重新执行发布门禁。
This commit is contained in:
@@ -711,6 +711,7 @@ export interface RateLimitRule {
|
||||
limit: number;
|
||||
windowSeconds?: number;
|
||||
leaseTtlSeconds?: number;
|
||||
maxWaitSeconds?: number;
|
||||
consume?: 'fixed_window' | 'reserve_then_reconcile' | string;
|
||||
}
|
||||
|
||||
@@ -950,6 +951,10 @@ export interface ModelRateLimitStatus {
|
||||
modelCooldownUntil?: string;
|
||||
concurrent: RateLimitMetricStatus;
|
||||
queuedTasks: number;
|
||||
waitingSyncTasks?: number;
|
||||
waitingAsyncTasks?: number;
|
||||
oldestQueueWaitSeconds?: number;
|
||||
queueLimit?: number;
|
||||
rpm: RateLimitMetricStatus;
|
||||
tpm: RateLimitMetricStatus;
|
||||
loadRatio: number;
|
||||
|
||||
Reference in New Issue
Block a user