AI 模型治理 · AgentOps · AGI 应用服务基础设施

MAX API

在应用、Agent、用户、组织与上游模型服务之间提供统一接入、鉴权、路由、计费、观测和治理层。面向多模型、多供应商、多模态任务和私有化运营场景,让 AI 工作负载更稳定、更可控地运行。

40+ 上游生态 覆盖主流官方与兼容平台
多协议入口 OpenAI、Responses、Claude、Gemini
三类数据库 SQLite / MySQL / PostgreSQL
可运营网关 路由、计费、审计、限流
CONTROL PLANES

把模型、Agent、渠道和成本放到同一个治理平面。

MAX API 的重点不是替代上游模型,也不是替代 Agent 编排框架,而是在网关层提供稳定的访问边界、可配置策略和可审计运行记录。

01

统一模型入口

通过 OpenAI Compatible、Responses、Claude Messages、Gemini、Realtime 等入口,把应用侧调用收敛到统一网关。

02

Agent 令牌治理

为 Agent、工作流和工具调用分配独立 API Key,按模型范围、额度、过期时间和分组做访问控制。

03

成本与计费核算

支持模型倍率、表达式计费、分阶段计费 JSON、任务 rate-card、预扣费、失败退款和消费日志。

04

审计与可靠性

提供请求日志、错误日志、限流、流式超时、渠道加权路由、失败重试和管理员侧审计边界。

ARCHITECTURE

分层架构,面向长期运营和多供应商演进。

请求经过路由、中间件、控制器和业务服务层,再由 Relay 与 Channel 适配器转发到上游。数据层和缓存层为模型治理、任务状态、日志与计费提供支撑。

01 Application / SDK / Agent 应用侧统一接入,降低多 SDK 和多协议维护成本。
02 Router / Middleware 鉴权、限流、日志、分发与上下文处理。
03 Controller / Service 模型治理、AgentOps、计费、审计与任务管理。
04 Relay / Channel 协议转换、模型映射、路径覆盖与供应商适配。
05 Upstream Providers OpenAI、Claude、Gemini、国产平台与自定义上游。
PROVIDER RADAR

连接主流模型平台、国产模型生态和多模态任务服务。

实际可用模型取决于合法上游授权、渠道配置、模型映射和服务商能力。MAX API 负责把这些能力纳入统一治理,而不是提供上游模型账号或基础模型训练。

OpenAI
Azure OpenAI
Claude
Gemini
AWS Bedrock
Vertex AI
Ollama
DeepSeek
通义千问
智谱 GLM
Kimi
豆包 / 火山引擎
腾讯混元
文心 / 千帆
讯飞星火
MiniMax
硅基流动
Dify / RAGFlow
Kling
Seedance
Rerank
Images
Audio
Video Tasks
OPERATIONS

适合团队、研究机构、企业和社区服务的持续运营场景。

从单机体验到多机部署,MAX API 同时保留轻量启动路径和数据库、Redis、会话密钥、加密密钥等生产配置面。

渠道配置治理

  • 渠道能力矩阵显示 chat、responses、embeddings、images、audio、rerank、video tasks 等能力。
  • 保存前校验 Base URL、JSON 配置、Vertex AI 区域、Codex 凭证和任务路径占位符。
  • 支持模型映射、路径覆盖、模型发现和协议模板。

成本和用量治理

  • 按用户、令牌、模型、渠道和分组维度统计用量与成本。
  • 表达式计费适配复杂 token 价格,rate-card 适配视频等异步任务。
  • 支持预扣费、失败退款、倍率计费和消费日志。

私有化和安全边界

  • 支持 JWT、WebAuthn/Passkeys、OAuth、OIDC、Telegram、Discord、LinuxDO 等登录方式。
  • 支持 Redis 缓存与内存缓存,适配单机和多机部署。
  • 支持请求体大小限制、流式超时控制、错误日志和运行状态检查。
DEPLOYMENT

本地快速体验,生产推荐 Docker Compose。

默认可使用 SQLite 做本地体验。生产环境建议显式配置数据库、Redis、会话密钥、加密密钥和日志目录,并按所在司法辖区要求处理备案、授权、内容安全、实名、日志留存、税务和支付等合规事项。

数据库层兼容 SQLite、MySQL 与 PostgreSQL,缓存层支持 Redis 和内存缓存,便于从单机演示扩展到多机运营。

quick-start.sh
docker pull cscitechtop/max-api:latest

docker run --name max-api -d --restart always \
  -p 3000:3000 \
  -e TZ=Asia/Shanghai \
  -v ./data:/data \
  cscitechtop/max-api:latest

# open http://localhost:3000