wangbo ea58d21d03 perf(queue): 限制大媒体任务内存并消除准入惊群 ...

将同步与异步非文本任务的准入唤醒改为按任务和全局队首推进，批量续租等待者，避免大量请求同时争抢 advisory lock 和数据库连接。

对 Base64 请求解析、素材解码、上游媒体执行和结果物化增加分层并发限制，复用请求素材并释放重复 Gemini wire 数据；生产 API 默认入口解析并发 16，媒体物化并发 8。

新增 1000 个同步 Gemini 图像编辑请求的模拟上游压力验收，10 MiB 输入和输出下全部成功，Heap 峰值增长约 2.58 GiB，并验证共享上传哈希、单次 attempt 与本地零落盘。

验证：go test ./... -count=1；go vet ./...；gofmt -l 无输出；kubectl kustomize deploy/kubernetes/production；10 MiB Gemini Base64 千任务压力测试通过。

2026-07-30 13:13:32 +08:00

..

access_rule_handlers.go

fix(access): 修正 API Key 可分配模型范围

2026-07-22 00:24:36 +08:00

admin_task_handlers_test.go

feat(admin): 优化后台运维与任务管理

2026-07-25 01:32:49 +08:00

admin_task_handlers.go

feat(admin): 优化后台运维与任务管理

2026-07-25 01:32:49 +08:00

admin_tasks_integration_test.go

feat(admin): 优化后台运维与任务管理

2026-07-25 01:32:49 +08:00

advanced_media_test.go

feat(gateway): 补齐桌面端高级媒体直连接口

2026-07-22 14:02:53 +08:00

advanced_task_handlers.go

fix(media): 对齐 EasyAI 媒体响应与转存策略

2026-07-23 22:35:41 +08:00

agent_resources_handlers_test.go

feat(api): 统一公开接口为 /api/v1 前缀

2026-07-22 08:48:32 +08:00

agent_resources_handlers.go

feat(api): 统一公开接口为 /api/v1 前缀

2026-07-22 08:48:32 +08:00

api_key_assignable_models_integration_test.go

fix(access): 修正 API Key 可分配模型范围

2026-07-22 00:24:36 +08:00

async_worker_acceptance_integration_test.go

perf(queue): 限制大媒体任务内存并消除准入惊群

2026-07-30 13:13:32 +08:00

availability_timeout_integration_test.go

fix(auth): 为登录链路增加有界超时

2026-07-21 11:47:09 +08:00

billing_admin_handlers.go

feat(billing): 完成异步结算与请求执行闭环

2026-07-21 00:25:53 +08:00

billing_settlement_handlers_test.go

feat(billing): 完成异步结算与请求执行闭环

2026-07-21 00:25:53 +08:00

billing_settlement_handlers.go

feat(billing): 完成异步结算与请求执行闭环

2026-07-21 00:25:53 +08:00

binary_results.go

perf(storage): 拦截任务二进制并本地暂存结果

2026-07-24 21:13:09 +08:00

catalog_handlers.go

feat(catalog): 统一模型调用身份并梳理生命周期

2026-07-22 20:23:36 +08:00

chat_completions_mode_test.go

feat(api): 统一公开接口为 /api/v1 前缀

2026-07-22 08:48:32 +08:00

client_error_detail_test.go

fix(gemini): 移除空返图占位并暴露失败原因

2026-07-29 19:50:43 +08:00

compat_protocol_test.go

feat(api): 统一官方兼容接口响应协议

2026-07-22 15:34:59 +08:00

compat_protocol.go

refactor(runner): 收敛上游失败决策与轮转策略

2026-07-27 23:50:17 +08:00

config_handlers.go

docs(api): 补全 OpenAPI 注释与生成文档

2026-05-14 18:18:27 +08:00

core_flow_integration_test.go

feat(queue): 增加非文本模型分布式准入队列

2026-07-29 16:15:43 +08:00

daily_usage_handlers.go

feat(gateway): 补齐桌面端高级媒体直连接口

2026-07-22 14:02:53 +08:00

desktop_config_handlers.go

feat(desktop): 支持桌面端余额账单配置

2026-06-11 09:17:32 +08:00

easyai_compat_test.go

fix(media): 对齐 EasyAI 媒体响应与转存策略

2026-07-23 22:35:41 +08:00

easyai_compat.go

fix(media): 对齐 EasyAI 媒体响应与转存策略

2026-07-23 22:35:41 +08:00

failure_policy_http_acceptance_integration_test.go

fix(gemini): 移除空返图占位并暴露失败原因

2026-07-29 19:50:43 +08:00

file_upload_handlers.go

fix(media): 对齐 EasyAI 媒体响应与转存策略

2026-07-23 22:35:41 +08:00

gateway_task_creation.go

refactor(task): 复用网关任务创建流程

2026-07-22 00:24:36 +08:00

gemini_base64_stress_integration_test.go

perf(queue): 限制大媒体任务内存并消除准入惊群

2026-07-30 13:13:32 +08:00

gemini_compat_test.go

feat(api): 统一官方兼容接口响应协议

2026-07-22 15:34:59 +08:00

gemini_compat.go

perf(queue): 限制大媒体任务内存并消除准入惊群

2026-07-30 13:13:32 +08:00

handlers_identity_test.go

feat(identity): 接入认证中心多租户登录

2026-07-28 17:28:35 +08:00

handlers.go

perf(queue): 限制大媒体任务内存并消除准入惊群

2026-07-30 13:13:32 +08:00

identity_admin_handlers.go

feat(queue): 增加非文本模型分布式准入队列

2026-07-29 16:15:43 +08:00

identity_configuration_handlers_test.go

fix(identity): 完善统一认证配对恢复与安全退役

2026-07-17 18:31:12 +08:00

identity_configuration_handlers.go

feat(identity): 接入认证中心多租户登录

2026-07-28 17:28:35 +08:00

identity_pairing_coordinator_test.go

fix(identity): 完善统一认证配对恢复与安全退役

2026-07-17 18:31:12 +08:00

identity_pairing_coordinator.go

fix(cluster): 修复身份事务阻塞与 Worker 容量抖动

2026-07-29 23:04:41 +08:00

identity_runtime.go

feat(identity): 接入认证中心多租户登录

2026-07-28 17:28:35 +08:00

integration_database_safety_test.go

test(http): 防止集成测试误用非测试数据库

2026-07-24 23:27:17 +08:00

keling_compat_handlers_test.go

perf(storage): 极简化任务历史并增加保留治理

2026-07-24 18:23:22 +08:00

keling_compat_handlers.go

feat(queue): 增加非文本模型分布式准入队列

2026-07-29 16:15:43 +08:00

keling_compat_integration_test.go

fix(keling): 统一 Omni 模型别名与生产绑定

2026-07-22 10:00:30 +08:00

keling_simulation_integration_test.go

test(api): 等待异步任务完成后校验结果

2026-07-22 08:56:30 +08:00

kling_compat_integration_test.go

test(api): 等待异步任务完成后校验结果

2026-07-22 08:56:30 +08:00

kling_compat_test.go

perf(storage): 极简化任务历史并增加保留治理

2026-07-24 18:23:22 +08:00

kling_compat.go

feat(queue): 增加非文本模型分布式准入队列

2026-07-29 16:15:43 +08:00

local_login_policy_test.go

fix(identity): 完善统一认证配对恢复与安全退役

2026-07-17 18:31:12 +08:00

local_temp_assets.go

perf(storage): 拦截任务二进制并本地暂存结果

2026-07-24 21:13:09 +08:00

model_catalog_test.go

feat(catalog): 统一模型调用身份并梳理生命周期

2026-07-22 20:23:36 +08:00

model_catalog.go

perf(queue): 按策略动态扩缩异步 Worker

2026-07-24 12:26:56 +08:00

model_cooldown_error_test.go

refactor(runner): 收敛上游失败决策与轮转策略

2026-07-27 23:50:17 +08:00

model_response_test.go

fix(billing): 修正模型计费配置继承优先级

2026-07-22 00:24:36 +08:00

model_response.go

fix(billing): 修正模型计费配置继承优先级

2026-07-22 00:24:36 +08:00

model_usage_scene_test.go

feat(models): 支持按使用场景筛选模型

2026-07-27 13:15:23 +08:00

model_usage_scene.go

feat(models): 支持按使用场景筛选模型

2026-07-27 13:15:23 +08:00

oidc_jit_integration_test.go

feat(billing): 完成异步结算与请求执行闭环

2026-07-21 00:25:53 +08:00

oidc_multi_tenant_local_e2e_test.go

feat(identity): 接入认证中心多租户登录

2026-07-28 17:28:35 +08:00

oidc_session_test.go

fix(oidc): 修复登录会话落库兼容问题

2026-07-29 10:40:33 +08:00

oidc_session.go

fix(oidc): 修复登录会话落库兼容问题

2026-07-29 10:40:33 +08:00

oidc_user_middleware_test.go

feat(identity): 接入认证中心多租户登录

2026-07-28 17:28:35 +08:00

oidc_user_middleware.go

feat(identity): 接入认证中心多租户登录

2026-07-28 17:28:35 +08:00

openapi_models.go

feat(admin): 优化后台运维与任务管理

2026-07-25 01:32:49 +08:00

portrait_asset_handlers.go

feat(seedance): 接入真人资产管理与引用

2026-07-22 00:25:22 +08:00

pricing_error_test.go

feat(billing): 统一计价与候选冻结估算

2026-07-20 23:22:45 +08:00

pricing_handlers_test.go

feat(billing): 统一计价与候选冻结估算

2026-07-20 23:22:45 +08:00

pricing_handlers.go

feat(gateway): 补齐桌面端高级媒体直连接口

2026-07-22 14:02:53 +08:00

public_api_prefix_test.go

feat(gateway): 补齐桌面端高级媒体直连接口

2026-07-22 14:02:53 +08:00

rate_limit_error_detail_test.go

feat(queue): 增加非文本模型分布式准入队列

2026-07-29 16:15:43 +08:00

request_preparation_test.go

perf(queue): 限制大媒体任务内存并消除准入惊群

2026-07-30 13:13:32 +08:00

request_preparation.go

perf(queue): 限制大媒体任务内存并消除准入惊群

2026-07-30 13:13:32 +08:00

response.go

feat: 完善模型请求适配与输出限制

2026-07-17 13:52:00 +08:00

responses_streaming_test.go

feat: add Responses API compatibility

2026-07-10 23:33:15 +08:00

runtime_policy_handlers.go

feat(queue): 增加非文本模型分布式准入队列

2026-07-29 16:15:43 +08:00

runtime_policy_validation_test.go

refactor(runner): 收敛上游失败决策与轮转策略

2026-07-27 23:50:17 +08:00

security_event_connection_handlers_test.go

fix(identity): 完善统一认证配对恢复与安全退役

2026-07-17 18:31:12 +08:00

security_event_connection_handlers.go

fix(identity): 完善统一认证配对恢复与安全退役

2026-07-17 18:31:12 +08:00

security_events_test.go

fix(identity): 避免未配置 SSF 时触发空指针

2026-07-22 08:48:36 +08:00

security_events.go

fix(identity): 完善统一认证配对恢复与安全退役

2026-07-17 18:31:12 +08:00

server.go

perf(queue): 限制大媒体任务内存并消除准入惊群

2026-07-30 13:13:32 +08:00

simulation_assets.go

迁移音频生成与语音合成到 gateway 并补充 simulation 测试

2026-06-07 10:26:57 +08:00

static_assets_test.go

fix: add local static file storage fallback

2026-05-13 20:53:07 +08:00

static_assets.go

docs(api): 补全 OpenAPI 上传与系统设置文档

2026-05-15 09:59:25 +08:00

streaming.go

feat(api): 统一官方兼容接口响应协议

2026-07-22 15:34:59 +08:00

system_settings_handlers.go

feat(system): 完成客户端自定义与系统设置

2026-06-30 14:53:29 +08:00

task_idempotency_test.go

fix(media): 对齐 EasyAI 媒体响应与转存策略

2026-07-23 22:35:41 +08:00

task_idempotency.go

feat(billing): 完成异步结算与请求执行闭环

2026-07-21 00:25:53 +08:00

task_multipart.go

feat: 支持 MiniMax 音色克隆和 2.8 语音模型

2026-06-17 02:13:21 +08:00

voice_clone_handlers.go

refactor(runner): 收敛上游失败决策与轮转策略

2026-07-27 23:50:17 +08:00

volces_compat_handlers_test.go

perf(storage): 极简化任务历史并增加保留治理

2026-07-24 18:23:22 +08:00

volces_compat_handlers.go

feat(queue): 增加非文本模型分布式准入队列

2026-07-29 16:15:43 +08:00

wallet_handlers.go

fix: 修复 OIDC 用户预配与跨标签页登录态

2026-07-13 17:07:52 +08:00