Go to file
2026-05-11 22:39:45 +08:00
apps feat: record task attempt chains 2026-05-11 22:39:45 +08:00
docs docs: refine wallet resource package design 2026-05-11 18:07:26 +08:00
packages/contracts feat: record task attempt chains 2026-05-11 22:39:45 +08:00
scripts chore: commit pending gateway changes 2026-05-10 22:34:15 +08:00
.env.example feat: add ai gateway local core flow 2026-05-09 16:51:28 +08:00
.gitignore chore(config): 更新 .gitignore 配置 2026-05-11 00:46:42 +08:00
go.work Initial project scaffold 2026-05-09 14:36:35 +08:00
go.work.sum Initial project scaffold 2026-05-09 14:36:35 +08:00
nx.json Initial project scaffold 2026-05-09 14:36:35 +08:00
package.json Initial project scaffold 2026-05-09 14:36:35 +08:00
pnpm-lock.yaml feat: improve model catalog aggregation 2026-05-11 17:44:57 +08:00
pnpm-workspace.yaml Initial project scaffold 2026-05-09 14:36:35 +08:00
README.md feat: add ai gateway local core flow 2026-05-09 16:51:28 +08:00

EasyAI AI Gateway

独立的 AI 网关中台脚手架,用于把现有 integration-platform 的平台管理、模型路由、计费预估、队列执行、Chat / 生图 / 生视频等生成能力逐步从 easyai-server-main 拆成可独立运行的项目。

技术选型

  • 后端Go + PostgreSQL 18复用 Agent memory 的 easyai-pgvector支持本地用户、可选邀请码、API Key、余额/充值闭环,也支持复用 server-main 的 JWT / API Key 授权语义。
  • 前端React + TypeScript + TSXUI 体系按 shadcn-ui / Radix / Tailwind 方向沉淀,先提供运维控制台骨架。
  • MonorepoNx 负责任务编排Go 使用 go.work 管理模块。
  • 集成:完成后由 easyai-server-main 通过内部 HTTP SDK 直连本服务;任务实时进度由 Gateway 回调 server-main,再通过原 WebSocket 网关推送给业务前端。

目录

apps/
  api/        Go HTTP API, auth middleware, PG store, migrations
  web/        React TSX admin console
packages/
  contracts/ Shared TypeScript DTO contracts
docs/
  design.md  Detailed architecture and migration design

本地启动

cp .env.example .env
pnpm install
pnpm dev

服务默认地址:

  • API: http://localhost:8088
  • Web: http://localhost:5178
  • PostgreSQL: 目标版本 18默认使用宿主机 localhost:5432 上的 easyai-pgvector 实例,并使用独立库 easyai_ai_gateway
  • 身份模式: 默认 IDENTITY_MODE=hybrid,可同时测试 Gateway 本地账号注册登录、可选邀请码和 server-main JWT / API Key 对接。

pnpm dev 会先创建数据库并执行 migration然后并行启动

  • api:dev:通过 scripts/go-watch.mjs 运行 Go API监听 .gogo.modgo.sum 变化并自动重启后端进程watcher 会按进程组终止旧的 go run 和其子进程,避免热更新时残留进程占用 API 端口。
  • web:devVite React dev server。

后端热更新可通过 GO_WATCH_SHUTDOWN_GRACE_MSGO_WATCH_RESTART_DELAY_MS 调整旧进程退出等待时间与重启间隔。

默认 EasyAI 部署里,easyai-pgvector 在容器网络内的连接串是:

AI_GATEWAY_DATABASE_URL=postgresql://easyai:easyai2025@easyai-pgvector:5432/easyai_ai_gateway?schema=public

宿主机直跑时需要使用宿主机可访问的 Postgres 地址。如果 easyai-pgvector5432 映射到了本机,可使用:

AI_GATEWAY_DATABASE_URL=postgresql://easyai:easyai2025@localhost:5432/easyai_ai_gateway?sslmode=disable

如果现有 easyai-pgvector 没有把 5432 映射到宿主机,就需要补端口映射,或者把 AI Gateway 后端容器化后接入同一个 easyai Docker network。

迁移原则

  1. 新服务先并行运行,不直接删除 easyai-server-main 内现有模块。
  2. 身份域支持 standaloneserver-mainhybrid 三种模式;独立模式由 Gateway 维护租户、用户、用户组、本地 API Key、余额和充值订单接入模式从 server-main 同步租户、用户和用户组。
  3. OpenAPI sk-* 校验、文件上传、扣费结算在接入模式下仍由 server-main 承担;独立模式走 Gateway 本地闭环。
  4. 网关服务负责基准模型库、平台模型路由、用户组调用折扣、TPM/RPM/并发限流、任务队列、三方平台执行、任务进度事件和回调 outbox。
  5. 切流时优先让 server-mainOpenaiService 变成薄门面,内部调用本服务。

详细设计见 docs/design.md