 wangbo
|
9e4fc7362d
|
feat(queue): 增加非文本模型分布式准入队列
使用 PostgreSQL 统一同步与异步非文本任务的并发准入、持久化等待和 Worker 容量分配，并将生产 API 与独立 Worker 角色拆分。
补充策略管理、共享契约、OpenAPI、Kubernetes 双节点 Worker 清单及跨节点验收脚本；未默认启用任何生产 queue_size 策略。
已在原基线完成 Go、前端、迁移、Shell、Kustomize 与长任务容量验收；合入最新主干后将重新执行发布门禁。
|
2026-07-29 16:15:43 +08:00 |
|
|
wangbo
|
6c5daf29ca
|
perf(queue): 按策略动态扩缩异步 Worker
将 River 执行容量按平台模型与用户组的有效并发策略动态调整，并为长任务续租、并发租约原子抢占和限流退避补充保护。\n\n统一平台模型限流继承语义，兼容历史 platformLimits/modelLimits，并为三个迁移图像模型建立独立并发租约。补充管理端显式继承/覆盖配置、指标、单元测试及隔离 PostgreSQL 验收。\n\n验证：go test ./... -count=1；pnpm lint；pnpm test；pnpm build；隔离 PostgreSQL 并发原子性/续租测试；128 任务与三分钟长任务动态 Worker 验收。
|
2026-07-24 12:26:56 +08:00 |
|
|
wangbo
|
644a6f9d17
|
完善文档页文本向量与重排序调用支持
|
2026-05-31 21:18:41 +08:00 |
|
|
wangbo
|
71950d2b4f
|
fix(rate-limits): treat empty policies as unlimited
|
2026-05-24 22:28:25 +08:00 |
|
|
wangbo
|
37d0f919e5
|
feat: add gateway billing estimate and rate limit details
|
2026-05-15 01:53:52 +08:00 |
|
|
wangbo
|
3225833f96
|
fix: align video generation payloads
|
2026-05-14 00:14:54 +08:00 |
|
|
wangbo
|
2a91b31d12
|
fix: treat local rate limit queueing separately
|
2026-05-12 10:34:06 +08:00 |
|
|
wangbo
|
7e220b7477
|
feat: add river-backed async task queue
|
2026-05-12 10:11:54 +08:00 |
|
|
wangbo
|
ba850a06c6
|
feat: improve model rate limit tracking
|
2026-05-12 03:22:29 +08:00 |
|
|
wangbo
|
ca7e76e815
|
fix gateway loopback validation chains
|
2026-05-11 08:48:02 +08:00 |
|
|
wangbo
|
fdcdcd477b
|
feat: implement AI gateway phase one runtime
|
2026-05-09 21:18:32 +08:00 |
|