BCAI/easyai-ai-gateway
3
0
Fork 0
Code Issues 1 Pull Requests Actions Packages Projects Releases Wiki Activity
69 Commits 3 Branches 0 Tags 2.4 MiB
Go 50.9%
TypeScript 40.4%
CSS 7.7%
PLpgSQL 0.4%
JavaScript 0.3%
Other 0.3%
d09a4c2e4d
Go to file
wangbo d09a4c2e4d feat(clients): 添加Keling客户端支持视频生成和多模态功能 
- 实现KelingClient结构体及其Run方法，支持视频生成功能
- 添加对image2video、text2video和omni-video任务类型的完整支持
- 集成Keling平台的身份验证机制，包括JWT令牌生成
- 实现视频任务的提交和轮询逻辑，支持异步处理流程
- 添加对多种输入格式的支持，包括图像帧、基础视频和参考素材
- 实现Keling元素管理和清理机制，处理临时创建的素材
- 在服务初始化中注册keling和kling两个提供商标识
- 添加数据库迁移脚本，更新Keling模型的音频功能配置
- 完善错误处理和重试机制，提升服务稳定性
- 编写完整的单元测试，覆盖各种视频生成场景和边界情况
2026-05-17 22:08:55 +08:00
apps feat(clients): 添加Keling客户端支持视频生成和多模态功能 2026-05-17 22:08:55 +08:00
docs docs: refine wallet resource package design 2026-05-11 18:07:26 +08:00
packages/contracts feat: add gateway billing estimate and rate limit details 2026-05-15 01:53:52 +08:00
scripts chore(dev): 配置本地开发环境 2026-05-13 06:44:26 +00:00
.env.example feat: add ai gateway local core flow 2026-05-09 16:51:28 +08:00
.gitignore Merge origin/main into chore/devenv-setup 2026-05-15 09:40:56 +08:00
devenv.lock chore(dev): 配置本地开发环境 2026-05-13 06:44:26 +00:00
devenv.nix chore(dev): 配置本地开发环境 2026-05-13 06:44:26 +00:00
devenv.yaml chore(dev): 配置本地开发环境 2026-05-13 06:44:26 +00:00
go.work feat: add river-backed async task queue 2026-05-12 10:11:54 +08:00
go.work.sum feat: add river-backed async task queue 2026-05-12 10:11:54 +08:00
nx.json Initial project scaffold 2026-05-09 14:36:35 +08:00
package.json docs(api): 补全 OpenAPI 注释与生成文档 2026-05-14 18:18:27 +08:00
pnpm-lock.yaml feat: improve model catalog aggregation 2026-05-11 17:44:57 +08:00
pnpm-workspace.yaml Initial project scaffold 2026-05-09 14:36:35 +08:00
README.md docs(api): 补全 OpenAPI 注释与生成文档 2026-05-14 18:18:27 +08:00
starship.toml chore(dev): 配置本地开发环境 2026-05-13 06:44:26 +00:00

README.md

EasyAI AI Gateway

独立的 AI 网关中台脚手架，用于把现有 integration-platform 的平台管理、模型路由、计费预估、队列执行、Chat / 生图 / 生视频等生成能力逐步从 easyai-server-main 拆成可独立运行的项目。

技术选型

  • 后端：Go + PostgreSQL 18，复用 Agent memory 的 easyai-pgvector，支持本地用户、可选邀请码、API Key、余额/充值闭环，也支持复用 server-main 的 JWT / API Key 授权语义。
  • 前端：React + TypeScript + TSX，UI 体系按 shadcn-ui / Radix / Tailwind 方向沉淀，先提供运维控制台骨架。
  • Monorepo：Nx 负责任务编排，Go 使用 go.work 管理模块。
  • 集成：完成后由 easyai-server-main 通过内部 HTTP SDK 直连本服务；任务实时进度由 Gateway 回调 server-main，再通过原 WebSocket 网关推送给业务前端。

目录

apps/
  api/        Go HTTP API, auth middleware, PG store, migrations
  web/        React TSX admin console
packages/
  contracts/ Shared TypeScript DTO contracts
docs/
  design.md  Detailed architecture and migration design

本地启动

cp .env.example .env
pnpm install
pnpm dev

服务默认地址：

  • API: http://localhost:8088
  • Web: http://localhost:5178
  • PostgreSQL: 目标版本 18，默认使用宿主机 localhost:5432 上的 easyai-pgvector 实例，并使用独立库 easyai_ai_gateway
  • 身份模式: 默认 IDENTITY_MODE=hybrid，可同时测试 Gateway 本地账号注册登录、可选邀请码和 server-main JWT / API Key 对接。

pnpm dev 会先创建数据库并执行 migration，然后并行启动：

  • api:dev：通过 scripts/go-watch.mjs 运行 Go API，监听 .go、go.mod、go.sum 变化并自动重启后端进程；watcher 会按进程组终止旧的 go run 和其子进程，避免热更新时残留进程占用 API 端口。
  • web:dev：Vite React dev server。

后端热更新可通过 GO_WATCH_SHUTDOWN_GRACE_MS 和 GO_WATCH_RESTART_DELAY_MS 调整旧进程退出等待时间与重启间隔。

OpenAPI 文档

修改 apps/api/internal/httpapi 下的接口、请求或响应类型后，请重新执行：

pnpm openapi

默认 EasyAI 部署里，easyai-pgvector 在容器网络内的连接串是：

AI_GATEWAY_DATABASE_URL=postgresql://easyai:easyai2025@easyai-pgvector:5432/easyai_ai_gateway?schema=public

宿主机直跑时需要使用宿主机可访问的 Postgres 地址。如果 easyai-pgvector 将 5432 映射到了本机，可使用：

AI_GATEWAY_DATABASE_URL=postgresql://easyai:easyai2025@localhost:5432/easyai_ai_gateway?sslmode=disable

如果现有 easyai-pgvector 没有把 5432 映射到宿主机，就需要补端口映射，或者把 AI Gateway 后端容器化后接入同一个 easyai Docker network。

迁移原则

  1. 新服务先并行运行，不直接删除 easyai-server-main 内现有模块。
  2. 身份域支持 standalone、server-main、hybrid 三种模式；独立模式由 Gateway 维护租户、用户、用户组、本地 API Key、余额和充值订单，接入模式从 server-main 同步租户、用户和用户组。
  3. OpenAPI sk-* 校验、文件上传、扣费结算在接入模式下仍由 server-main 承担；独立模式走 Gateway 本地闭环。
  4. 网关服务负责基准模型库、平台模型路由、用户组调用折扣、TPM/RPM/并发限流、任务队列、三方平台执行、任务进度事件和回调 outbox。
  5. 切流时优先让 server-main 的 OpenaiService 变成薄门面，内部调用本服务。

详细设计见 docs/design.md。