 wangbo
|
4af86b22ee
|
fix(worker): 将 Gemini 同步请求交由异步队列执行
将非流式 Gemini generateContent 改为 River Worker 执行，API 通过批量状态查询等待完成，避免高并发同步请求耗尽 API 数据库连接池。\n\n生成图片在持久化时保存带哈希的资产引用，响应恢复时下载并校验后重建 Base64，数据库不保存媒体原文。请求体物化增加前置内存门禁，并扩展双 API/Worker PostgreSQL 压力测试。\n\n验证：go test ./... -count=1；go vet ./...；pnpm openapi；迁移安全检查；64 与 256 请求双角色异步 Gemini 压力测试。
|
2026-07-31 05:49:45 +08:00 |
|
|
wangbo
|
352e23e099
|
perf(media): 生产媒体直传阿里云 OSS
生产同构验收确认 server_main_openapi 上传通道在媒体高并发下产生 381 个 502，并将已创建任务的 p95 拉高到 172 秒。\n\n为 request_asset 与 image_result 增加环境配置控制的阿里云 OSS 直传，保留普通上传原通道；使用 Kubernetes Secret 注入凭据，并对签名、重试、场景隔离和生产配置校验增加测试。\n\n验证：Go 全量测试、go vet、OpenAPI、迁移安全检查、Kustomize/Compose 渲染、gofmt 与 git diff --check 均通过；真实 OSS PUT/CDN 读取探针通过且对象已清理。
|
2026-07-31 05:20:27 +08:00 |
|
|
wangbo
|
2bfeb3e179
|
fix(acceptance): 为高并发验收启用有界排队
生产同构 Gemini 千请求在真实候选并发饱和后因 queueing disabled 返回 429，同时单台压测机建立千条 WAN TCP 产生连接层 reset。仅对 acceptance 与 acceptance_canary 覆盖为 10000 条、最长 15 分钟的有界等待队列，保留候选原始并发和 RPM/TPM 上限；压测传输强制 HTTP/2 复用连接，避免单源连接风暴。正式 production 策略不变。\n\n验证：acceptance-load 与 runner 定向测试通过，新增生产策略不变和验收队列边界单测；gofmt、bash -n、ShellCheck、git diff --check 通过。
|
2026-07-31 01:34:16 +08:00 |
|
|
wangbo
|
3053ba4925
|
feat(acceptance): 增加生产同构媒体压力验收模式
引入动态流量门禁、隔离验收身份与协议级 Gemini/Volces 模拟器，覆盖双站点 API、Worker、PostgreSQL、River、账务、回调和媒体物化链路。
新增 P24/P28/P32 容量阶梯、Worker 强杀恢复、真实小流量 canary、CAS 放量和失败保持 validation 的生产编排；Worker 执行槽、连接池、媒体并发和双站点副本数改为环境配置。
验证：Go 全量测试、真实 PostgreSQL 迁移集成测试、迁移安全检查、OpenAPI 生成、ShellCheck、Kustomize、gofmt 和 git diff --check。
|
2026-07-30 23:06:19 +08:00 |
|
|
wangbo
|
38f87b6970
|
fix(queue): 防止过期执行占位阻塞与重复提交
队列恢复后，仍在运行标记中的 River job 可能保留 waiting admission，形成全局 FIFO 队头阻塞；同时旧执行在租约被接管后仍可能创建 attempt 或切换到 submitting。
新增 stale admission 自动让出机制，并用当前 execution token 对 attempt 创建和上游提交状态切换做 fencing。任务、River job 和结算状态均不在让出流程中改写。
验证：go vet ./...；env -u AI_GATEWAY_TEST_DATABASE_URL go test ./... -count=1；真实 PostgreSQL 集成测试覆盖 stale admission 让出与旧 token 提交拦截。
|
2026-07-30 18:25:00 +08:00 |
|
|
wangbo
|
3aa78d3e5c
|
perf(worker): 按实例内存上限扩展异步容量
将策略推导出的集群目标与单 Worker 内存安全上限分离，避免失活实例的全部容量转移到单个 2 GiB Pod。
生产环境单实例上限和媒体物化并发设为 24；两实例正常时总容量由 16 提升至 48，后续可通过增加 Worker 节点继续扩展。新增 0093 迁移保存实例容量上限，并兼容滚动发布中的旧实例。
风险：更高媒体并发会增加 Worker 和节点内存压力，保留单实例 24 的硬边界并由持续监控观察 RSS、OOM、队列与节点余量。
验证：go test ./... -count=1；go vet ./...；真实 PostgreSQL 分配与故障转移测试；迁移安全检查；kubectl kustomize；gofmt -l；git diff --check。
|
2026-07-30 15:08:54 +08:00 |
|
|
wangbo
|
ea58d21d03
|
perf(queue): 限制大媒体任务内存并消除准入惊群
将同步与异步非文本任务的准入唤醒改为按任务和全局队首推进，批量续租等待者，避免大量请求同时争抢 advisory lock 和数据库连接。
对 Base64 请求解析、素材解码、上游媒体执行和结果物化增加分层并发限制，复用请求素材并释放重复 Gemini wire 数据；生产 API 默认入口解析并发 16，媒体物化并发 8。
新增 1000 个同步 Gemini 图像编辑请求的模拟上游压力验收，10 MiB 输入和输出下全部成功，Heap 峰值增长约 2.58 GiB，并验证共享上传哈希、单次 attempt 与本地零落盘。
验证：go test ./... -count=1；go vet ./...；gofmt -l 无输出；kubectl kustomize deploy/kubernetes/production；10 MiB Gemini Base64 千任务压力测试通过。
|
2026-07-30 13:13:32 +08:00 |
|
|
wangbo
|
3886048e0f
|
fix(gemini): 移除空返图占位并暴露失败原因
Gemini 图片响应未包含可提取资源时，不再返回伪造占位图，改为非重试失败并保留安全拦截、候选结束状态和上游错误等结构化诊断。\n\n同步将诊断写入 HTTP 错误、任务结果、attempt 指标和日志，确保任务失败时不结算，并补充单元及 PostgreSQL 验收测试。\n\n验证：gofmt、go test ./... -count=1、go vet ./...、迁移安全检查、pnpm openapi。
|
2026-07-29 19:50:43 +08:00 |
|
|
wangbo
|
9e4fc7362d
|
feat(queue): 增加非文本模型分布式准入队列
使用 PostgreSQL 统一同步与异步非文本任务的并发准入、持久化等待和 Worker 容量分配，并将生产 API 与独立 Worker 角色拆分。
补充策略管理、共享契约、OpenAPI、Kubernetes 双节点 Worker 清单及跨节点验收脚本；未默认启用任何生产 queue_size 策略。
已在原基线完成 Go、前端、迁移、Shell、Kustomize 与长任务容量验收；合入最新主干后将重新执行发布门禁。
|
2026-07-29 16:15:43 +08:00 |
|
|
wangbo
|
31565af07a
|
refactor(runner): 收敛上游失败决策与轮转策略
将同平台重试、跨平台动作、健康副作用和冷却排队统一到单一失败决策，避免旧降级策略与 failover 重复执行。\n\n增加事务级单源保护、候选实时刷新、冷却错误契约、管理接口严格校验及兼容策略只读展示。\n\n验证：真实 Gateway HTTP/PostgreSQL 接受测试 10 项通过；go test ./...、pnpm openapi、pnpm lint、pnpm test、pnpm build 均通过。
|
2026-07-27 23:50:17 +08:00 |
|
|
wangbo
|
95776c84f6
|
fix(media): 规范比例与 OpenAI 图像尺寸参数
统一过滤非 x:x 比例，避免默认值参与候选匹配或透传上游。
支持 xK 分辨率归一化，并按 Gemini、Volces 和 OpenAI 的参数规范生成上游请求；OpenAI 显式 WxH 始终保留用户原始尺寸。
验证：在独立临时 worktree 中执行 apps/api 全量 go test ./... -count=1 通过，真实 OpenAI 请求已到达上游但受本地无效凭据阻断。
|
2026-07-27 23:50:17 +08:00 |
|
|
wangbo
|
4f163ea6d7
|
perf(storage): 拦截任务二进制并本地暂存结果
原因：任务标准结果中的 Base64、Data URI 和 Buffer 会进入 PostgreSQL JSON，导致 TOAST 与备份体积快速增长。
影响：新增统一 JSON 持久化关口；upload_none 将二进制原子写入本地结果目录，数据库仅保存带 SHA-256 的有界占位符；任务详情、同步响应、异步查询和兼容协议按需校验恢复。补充 24 小时清理、容量上限、历史小批量治理命令及管理端说明。
风险：本地结果超过 TTL、丢失或损坏时分别返回明确的 410/500；空间不足时返回 503 且不重试上游。未自动执行历史治理。
验证：三种真实图片模型同步/异步与幂等重放通过；Go vet/全量测试、前端 111 测试、lint/typecheck/build、OpenAPI、迁移安全、govulncheck、依赖审计、手工发布测试及 Linux amd64 构建通过。
|
2026-07-24 21:13:09 +08:00 |
|
|
wangbo
|
810dcfeee6
|
perf(storage): 极简化任务历史并增加保留治理
停止持久化 provider 原始响应、兼容响应快照、attempt/event/outbox 重复 JSON，并由标准任务结果动态生成 Kling/Keling/Volces 兼容响应。
增加事件去重与预算、极简 callback 投递、7/30 天分批清理、安全删除条件、并发迁移索引及可实际恢复的任务域排除备份。历史清理默认关闭，待兼容协议和异步恢复在线验证后单独启用。
验证：Go 全量测试与 go vet、PostgreSQL 18 集成与实际备份恢复、迁移安全测试、bash -n、ShellCheck、Compose 配置和人工发布脚本测试均通过。
|
2026-07-24 18:23:22 +08:00 |
|
|
wangbo
|
6c5daf29ca
|
perf(queue): 按策略动态扩缩异步 Worker
将 River 执行容量按平台模型与用户组的有效并发策略动态调整，并为长任务续租、并发租约原子抢占和限流退避补充保护。\n\n统一平台模型限流继承语义，兼容历史 platformLimits/modelLimits，并为三个迁移图像模型建立独立并发租约。补充管理端显式继承/覆盖配置、指标、单元测试及隔离 PostgreSQL 验收。\n\n验证：go test ./... -count=1；pnpm lint；pnpm test；pnpm build；隔离 PostgreSQL 并发原子性/续租测试；128 任务与三分钟长任务动态 Worker 验收。
|
2026-07-24 12:26:56 +08:00 |
|
|
wangbo
|
fb7e08fe5c
|
fix(runtime): honor requested platform for routing
|
2026-07-24 07:56:48 +08:00 |
|
|
wangbo
|
8b7d3e9c9a
|
feat(seedance): 同步输入图片约束与自动转换
|
2026-07-23 21:55:42 +08:00 |
|
 easyai
|
e07a997aa9
|
feat(api): 统一官方兼容接口响应协议
兼容接口现在以入口协议作为最终响应协议，同协议保留官方 Wire 响应，跨协议统一转换成功、任务状态与错误结构。
同时修正异步提交状态边界，持久化兼容公开任务标识和官方提交响应，并新增迁移、流式响应及协议契约测试。
验证：go vet ./...；go test ./...；govulncheck ./...；pnpm lint；pnpm test；pnpm build；pnpm audit --audit-level high；pnpm openapi；全部 CI 脚本。
|
2026-07-22 15:34:59 +08:00 |
|
|
easyai
|
3056cf8fca
|
feat(gateway): 补齐桌面端高级媒体直连接口
ci / verify (pull_request) Successful in 15m34s
新增图片矢量化、视频超分、每日用量、计价与任务隔离能力，并通过环境变量解析平台凭据。
已通过 Go 全量门禁、迁移检查、镜像构建以及 Vectorizer 五格式和 Topaz 3 秒视频真实 DEV 验收。
|
2026-07-22 14:02:53 +08:00 |
|
|
wangbo
|
d7951cfdd2
|
feat(volces): 接入任务兼容查询与上游取消
|
2026-07-22 00:25:22 +08:00 |
|
|
wangbo
|
ddd68cfebd
|
feat(seedance): 接入真人资产管理与引用
|
2026-07-22 00:25:22 +08:00 |
|
 chengcheng
|
8beb8501fa
|
fix(billing): 封住发布前计费竞态
ci / verify (pull_request) Failing after 8s
阻止上游提交状态不明的任务被租约接管后重复执行，并为人工复核保留可操作的结算记录。
将生产提交绑定到当前估价签名，统一复用预处理快照，并补强规则形状、定点溢出与历史规则兼容校验。
已通过 PostgreSQL 16 集成测试、Go 全量测试与静态检查、前端测试与构建、OpenAPI、依赖审计、镜像、迁移、流水线和 SemVer 门禁。
|
2026-07-21 10:23:58 +08:00 |
|
|
chengcheng
|
5b2b94b1bd
|
feat(billing): 完成异步结算与请求执行闭环
统一任务成功、Attempt 与结算 Outbox 的事务边界，增加多实例安全结算、人工复核、请求幂等与执行租约。钱包决策使用九位精确金额，并通过审计保护约束保留流水事实；同时补充管理接口、指标与 PostgreSQL 集成测试。
|
2026-07-21 00:25:53 +08:00 |
|
|
chengcheng
|
5114686c35
|
feat(billing): 统一计价与候选冻结估算
新增 effective-pricing-v2、9 位十进制定点计算、显式免费校验和结构化缺价错误。估价与生产预处理覆盖全部可用候选，并按最大候选费用冻结；规则优先级为平台模型、平台、基准模型。\n\n同步计价契约和 OpenAPI，补充 Token 参数别名、视频五秒向上取整及缺价回归测试。\n\n验证：go test ./...、pnpm openapi、Web 测试与构建通过。
|
2026-07-20 23:22:45 +08:00 |
|
|
wangbo
|
5ee267ecbd
|
feat: 完善模型请求适配与输出限制
|
2026-07-17 13:52:00 +08:00 |
|
|
wangbo
|
8847d973a8
|
feat: add Responses API compatibility
|
2026-07-10 23:33:15 +08:00 |
|
|
wangbo
|
b7351f3b9b
|
feat(runtime): 适配推理模式开关
|
2026-07-06 02:03:03 +08:00 |
|
|
wangbo
|
24eb68cc09
|
feat: use message LCP cache affinity keys
|
2026-06-29 15:47:57 +08:00 |
|
|
wangbo
|
0e675e259c
|
feat: add runner failover rules and cache affinity
|
2026-06-28 20:50:23 +08:00 |
|
|
wangbo
|
c4341335d7
|
feat: 支持 MiniMax 音色克隆和 2.8 语音模型
|
2026-06-17 02:13:21 +08:00 |
|
|
wangbo
|
b860ef37e8
|
增加单一源保护全局策略
|
2026-06-15 00:14:40 +08:00 |
|
|
wangbo
|
dc14866210
|
迁移音频生成与语音合成到 gateway 并补充 simulation 测试
|
2026-06-07 10:26:57 +08:00 |
|
|
wangbo
|
78ab867a9f
|
区分请求资源 base64 格式并按平台恢复
|
2026-06-05 23:07:25 +08:00 |
|
|
wangbo
|
d41d9482c7
|
Add runtime restore and temp asset cleanup
|
2026-06-05 20:28:26 +08:00 |
|
|
wangbo
|
644a6f9d17
|
完善文档页文本向量与重排序调用支持
|
2026-05-31 21:18:41 +08:00 |
|
|
wangbo
|
8ee7a7969e
|
feat: expose retry priority in retry chain
|
2026-05-30 14:25:29 +08:00 |
|
|
wangbo
|
8ad5b06c18
|
feat(api): 添加多媒体内容支持并优化钱包计费系统
- 在 API 接口定义中为 video_url 和 audio_url 类型添加 mime_type 字段
- 实现 Google Gemini 客户端对视频和音频内容的支持，包括媒体类型检测和数据传输
- 添加 Gemini 客户端测试用例验证多媒体内容转换功能
- 重构 Playground 页面的媒体上传逻辑以支持 MIME 类型传递
- 实现钱包计费预留机制，确保任务执行前余额充足
- 添加钱包冻结余额管理，防止并发操作导致的超扣问题
- 实现计费预留释放逻辑，处理任务失败或取消情况下的资金返还
- 优化数据库事务处理，确保计费操作的原子性和一致性
- 添加数据库集成测试验证迁移脚本执行流程
- 统一 Google Gemini 相关模型提供商标识符映射
|
2026-05-22 23:46:08 +08:00 |
|
|
wangbo
|
af9b281d34
|
feat(api): migrate media clients and universal scripts
|
2026-05-20 21:29:07 +08:00 |
|
|
wangbo
|
11a2c13e4a
|
fix: prefer generated video metadata for billing
|
2026-05-20 00:11:28 +08:00 |
|
|
wangbo
|
73c6d43e4b
|
feat: filter candidates by request resolution
|
2026-05-18 15:50:08 +08:00 |
|
|
wangbo
|
d09a4c2e4d
|
feat(clients): 添加Keling客户端支持视频生成和多模态功能
- 实现KelingClient结构体及其Run方法，支持视频生成功能
- 添加对image2video、text2video和omni-video任务类型的完整支持
- 集成Keling平台的身份验证机制，包括JWT令牌生成
- 实现视频任务的提交和轮询逻辑，支持异步处理流程
- 添加对多种输入格式的支持，包括图像帧、基础视频和参考素材
- 实现Keling元素管理和清理机制，处理临时创建的素材
- 在服务初始化中注册keling和kling两个提供商标识
- 添加数据库迁移脚本，更新Keling模型的音频功能配置
- 完善错误处理和重试机制，提升服务稳定性
- 编写完整的单元测试，覆盖各种视频生成场景和边界情况
|
2026-05-17 22:08:55 +08:00 |
|
|
wangbo
|
90c3315468
|
fix(runner): record failed task attempts
|
2026-05-17 20:50:20 +08:00 |
|
|
wangbo
|
cdf469eccf
|
Split param processor and tighten Volces frame validation
|
2026-05-14 00:41:06 +08:00 |
|
|
wangbo
|
3225833f96
|
fix: align video generation payloads
|
2026-05-14 00:14:54 +08:00 |
|
|
wangbo
|
f1535a94c2
|
fix: preprocess message content by model capability
|
2026-05-13 23:39:11 +08:00 |
|
|
wangbo
|
0cd4e6fed1
|
feat: optimize playground media references
|
2026-05-13 22:06:13 +08:00 |
|
|
wangbo
|
fc5dfd6bc5
|
feat: add file storage settings and uploads
|
2026-05-13 20:23:45 +08:00 |
|
|
wangbo
|
2685450f3e
|
Restrict priority demotion to same-model peers
|
2026-05-13 08:37:39 +08:00 |
|
|
wangbo
|
c2696e7bbe
|
feat(api): add load-aware client fallback
|
2026-05-12 16:59:51 +08:00 |
|
|
wangbo
|
b9c9f457e9
|
feat: add parameter preprocessing audit trail
|
2026-05-12 13:54:51 +08:00 |
|
|
wangbo
|
9ea83be718
|
Fix realtime queued task counts
|
2026-05-12 10:41:07 +08:00 |
|