一、我司 AI 框架架构图
统一管控面 = AI Gateway(模型 / MCP)+ Skill 注册与市场 + 身份/授权/审批;平台能力(策略仓、计量对账、评测飞轮、审计)作为下层资产。不做 Harness:Agent 代码库纳管、推荐框架不强制、模型 / MCP / Skill 必须经网关接入。
二、AI Gateway 架构图
agentgateway 作为策略执行点,按环境 × 池部署(编程 LLM 池、业务 LLM 池、MCP 池)+ 策略处理器;控制面自建两件半:AI IdP(登录桥与逐跳换发)、注册中心与登记表、策略仓与编译流水线、计量平台与余额探针。
三、部署架构图
接入层复用存量南北向(DNS → WAF → ALB → APISIX / ingress,内网直达);生产环境在阿里云 K8s 主集群跨可用区部署三池,每池 ≥ 2 副本、独立发布单元与限流连接池,MCP 池带策略处理器 ×2;预发 / FAT 用同一模板各一套,私有化以 Compose 交付包复用同一策略格式;控制面与数据后端(AI IdP、RDS PostgreSQL、策略仓与 CI、密钥管理、OTel、数据平台)每环境独立;出站仅网关可达(NetworkPolicy),厂商 Key 只在网关。
四、部署架构图(Palantir 文档图风格)
Palantir Foundry 文档架构图的表达方式,并用颜色区分范围与建设方式:灰 = 存量 / 网关范围外;蓝 = 网关范围内开源或云服务直接复用(agentgateway 三池、Keycloak、RDS、OTel);青 = 需增强或配置(路由 / 预算 / 守卫、GitOps、密钥轮换、NetworkPolicy、Helm / Compose 模板);橙 = 需新开发(注册中心与编译流水线、策略处理器、登录桥 SPI、计量对账流水线与余额探针)。
五、AI 网关整体架构图(公司版方案)
《云砺 AI 网关方案(公司版)》§1.3:四类使用方与凭据(个人 Key、个人 Key / OAuth、应用凭据 + 用户 JWT、公网入口)→ AI 网关(身份接入与管理中心;agentgateway 数据面的 LLM 网关 / MCP 网关 / Skill 中心 / A2A 网关与策略处理器;每环境独立的控制面与数据)→ 能力供给(模型厂商、自托管模型、公司统一 MCP server、Skill 技能库、SaaS 业务 API、A2A Agent、数据平台)。颜色语义同上。方案全文见
方案页。
六、多环境部署架构图(公司版方案)
《云砺 AI 网关方案(公司版)》§4.2:云砺统一控制面 + 五种环境形态——内部 1 套(生产主集群独立命名空间)、外部 SIT(FAT 主集群)、外部 PROD(生产主集群跨可用区)、客户云上单开(客户 VPC,托管 / 自管两种模式)、客户属地化(离线交付包);蓝色容器为云砺托管环境,薄荷色为客户侧环境。