wangbo
2529679b67
生产同构千并发请求在干净队列上复现 API Pool 31/32、idle=1 且 canceled acquire 持续增长，Worker Pool 仅使用少量连接，确认瓶颈位于 API 数据库连接预算而非 Worker 执行槽。 新增可配置的 AI_GATEWAY_DATABASE_MIN_IDLE_CONNS，生产仅预热 4 条连接；API Pool 独立固定为 48，Worker Pool 继续跟随 P24/P28/P32 的 32/36/40 档位。发布工具、Kubernetes 清单、验收门禁和文档同步更新。 验证：Go 全量测试、gofmt、bash -n、ShellCheck、kubectl kustomize 和 git diff --check 通过。
17 lines
742 B
Plaintext
17 lines
742 B
Plaintext
RELEASES_DIR=/var/lib/easyai-ai-gateway-cluster-release/releases
|
|
NAMESPACE=easyai
|
|
PUBLIC_BASE_URL=https://ai.51easyai.com
|
|
K3S_BIN=/usr/local/bin/k3s
|
|
|
|
# Worker 容量只需修改本发布配置并执行获授权的 `capacity`，不再修改 Go 代码。
|
|
# 副本数属于 Deployment 配置，不能由容器内部环境变量改变；发布工具读取这两个变量并写入 replicas。
|
|
AI_GATEWAY_WORKER_REPLICAS_NINGBO=1
|
|
AI_GATEWAY_WORKER_REPLICAS_HONGKONG=1
|
|
AI_GATEWAY_ASYNC_WORKER_INSTANCE_HARD_LIMIT=24
|
|
AI_GATEWAY_ASYNC_WORKER_HARD_LIMIT=48
|
|
AI_GATEWAY_DATABASE_MAX_CONNS=32
|
|
AI_GATEWAY_API_DATABASE_MAX_CONNS=48
|
|
AI_GATEWAY_DATABASE_MIN_IDLE_CONNS=4
|
|
AI_GATEWAY_MEDIA_MATERIALIZATION_CONCURRENCY=24
|
|
AI_GATEWAY_MEDIA_REQUEST_CONCURRENCY=24
|