版本:v1.0 · 2026-09-14 · 评审稿 作者:Claude Code(樊国柱会话)
定位:独立的对标选型文档。在《选型复评报告》(06,agentgateway 与 Higress 两家)的基础上扩展为五款产品六个口径(Kong 拆为存量 OSS 与 AI Gateway 企业版),沿用同一套公司需求 13 维评分,可独立阅读。
输入:原报告《企业 AI Gateway 选型调研与 POC · 2026》的硬数据(2026-09-04)与产品档案;本文 2026-09-14 复核的 GitHub 数据(star、最近推送、发布)与官方文档;POC 实测;需求评估(顾磊、翟保延、我的思考);阶段 0 湖仓盘点;《云砺 AI 网关方案(公司版)》。
配套:评分脚本 diagrams/gen_benchmark_score.py(改分数或权重即可复算并重出热力图)。
证据等级:实测证实(POC 49 项检查、内网测试机部署)、文档取证(官方文档、发布说明、GitHub API)、湖仓取证(研发本体湖仓)、源码取证、需自建、未取证。未标注者为设计判断。
0. 一页结论
- 先过硬门槛,再看分数。 四条门槛:可自持的开源且活跃维护;MCP 授权至少到工具级;数据面可私有化且无数据出境;核心能力不锁在企业版。Portkey 开源网关过不了第一条(被 Palo Alto Networks 收购后,仓库自 2026-05-25 起零提交,托管版并入其安全平台);Kong OSS 3.9 过不了第二条(MCP、A2A、多厂商路由全部在企业版);Kong AI Gateway 企业版过不了第四条;Higress 第二条要靠自写插件,算半过。agentgateway 与 LiteLLM 四条全过。
- 打分结果(公司需求口径,13 维,10 分制):agentgateway 8.76、LiteLLM 8.28、Portkey 7.08、Kong 企业版 6.74、Higress 6.36、Kong OSS 4.68。未过门槛者的分数只作对照。
- 真正的二选一是 agentgateway 与 LiteLLM。 LiteLLM 在模型侧与 agentgateway 打平甚至更好:100 多家厂商、路由与回退、每 Key 与团队预算、最完整的管理面;v1.100 的 MCP 网关也已有按 Key / 团队 / 组织 / 用户的工具权限、OAuth 上游认证、RFC 8693 换发与 RFC 7662 自省(文档取证)。差距在四处:没有参数级策略与网关侧的策略执行钩子;Python 数据面开销随并发劣化(第三方 k6 实测),治理路径仍在 Python;私有化要带 Postgres 与 Redis,体积与依赖偏重;许可为 NOASSERTION,含企业目录,自持前要逐目录审计。把模型侧权重调高、MCP 与私有化调低,两者才打平(8.78 对 8.74)。
- 公司已经有一个"LiteLLM 同类"在跑。 全部内部 AI 流量今天经统一代理 new-api 转发(湖仓取证),它与 LiteLLM 是同一类产品。换成 LiteLLM 是"更好的 new-api",解决不了 MCP 授权、逐跳换发与私有化交付,而这些正是公司需求里的 P0。
- 决策:AI 策略执行点主选 agentgateway;LiteLLM 列为条件备选,仅当出现 agentgateway 不支持的长尾厂商或需要在试点前两周内先拿到计量时,作为 agentgateway 后面的接入适配层,不承接 MCP 与外部流量;Kong 存量(OSS 3.9,湖仓取证为开源镜像)继续做南北向,不采购企业版承担 AI 策略;Higress 与 Portkey 不引入。
- 复评触发:LiteLLM 的 Rust 网关承担全部治理路径并提供参数级策略;公司采购 Kong 企业版并把南北向统一升级到 3.14;Portkey 仓库恢复维护且有中国区可用的控制面;Higress 的触发条件沿用
06§4。
1. 对标范围与口径
1.1 为什么是这五款
五款覆盖了 AI 网关的五种形态,也是本轮需求方点名的候选:
| 形态 | 产品 | 一句话定位 |
|---|---|---|
| Rust 专用 Agent 数据面 | agentgateway v1.5.0 | LLM、MCP、A2A 三类流量一个策略面;Linux Foundation |
| Envoy 南北向一体的 AI 网关 | Higress v2.2.4 | Envoy + Istio;南北向 + AI + MCP 托管 + 市场;CNCF Sandbox |
| Python 接入适配层 / LLM 代理 | LiteLLM v1.100.0 | 100 多家厂商、虚拟 Key、预算、MCP 网关;与公司存量 new-api 同类 |
| 存量 API 网关加 AI 插件 | Kong OSS 3.9(存量)/ Kong AI Gateway 企业版 3.14 | OSS 只有基础 ai-proxy;MCP、A2A、多厂商路由、语义缓存在企业版 |
| 商业化托管网关的开源版 | Portkey 开源网关 | 2026-03 全量开源(含 MCP 网关与治理);2026-05 被 Palo Alto Networks 收购 |
Envoy AI Gateway、Bifrost、APISIX 等其余候选见原报告,本文不重复;APISIX 作为公司存量南北向之一在 §5 里提及。
1.2 硬数据与现状(2026-09-14 复核)
| 产品 | star | 最近推送 / 最新版本 | 许可与治理 | 采用证据 | 公司存量(湖仓取证) |
|---|---|---|---|---|---|
| agentgateway | 4.7k(09-04) | 活跃;v1.5.0(2026-08-27);近 12 月 43 次发版 | Apache-2.0;Linux Foundation / AAIF;234 贡献者 | 无公开采用名单;kgateway、Istio ambient、llm-d 采用为数据面 | 无;POC 已验证并部署到内网测试机 |
| Higress | 9.3k(09-04) | 活跃;v2.2.4(2026-08-13) | Apache-2.0;CNCF Sandbox(2026-03);197 贡献者,Top3 占 59% | 20 家公开采用 | 无 Higress 镜像 |
| LiteLLM | 58.7k(09-14) | 09-14 仍在推送;v1.100.0 稳定版(2026-09-06);5,011 个 open issue | NOASSERTION(MIT 主体 + 企业功能目录);BerriAI 单一公司;376 贡献者 | 无公开名单;社区体量最大 | 无 LiteLLM 镜像;同类的 new-api 承接全部内部 AI 流量 |
| Kong OSS | 44.1k(09-04) | 3.9.3(2026-06-17);12 周 7 次提交,全为 CI 与变更日志 | Apache-2.0;Kong Inc.;功能开发在企业版仓库 | 十年生产历史 | kong 3.9.0 开源镜像 5 个容器(边缘生产集群)、2.x 旧版、ingress controller、Konga;未见企业版镜像 |
| Kong AI Gateway 企业版 | 同上 | 3.14(2026-04)覆盖 REST、LLM、MCP、A2A | 商业许可;Konnect 控制面 | 商业客户 | 无企业版许可证据 |
| Portkey 开源网关 | 13.0k(09-14) | 最近推送 2026-05-25;最新发布 v1.15.2(2026-01-12);265 个 open issue | MIT;母公司 2026-05-29 被 Palo Alto Networks 以 1.17 亿美元收购,成为 Prisma AIRS 的 AI 网关 | 自述 24,000 家组织、日均 120M 请求(收购前) | 无 |
1.3 评分口径
沿用 06 §3 的 13 维与权重(权重按公司需求强度设定,来源写在 §3.2 表中);分数 0–5,口径与原报告一致:5 = 一等公民且有产品化实现;4 = 完整可用但有边界;3 = 基本可用需补齐;2 = 半成品或路线图;1 = 边缘支持;0 = 无。agentgateway 与 Higress 的分数与依据直接沿用 06。
2. 候选档案
2.1 agentgateway v1.5.0
- 定位与现状:Linux Foundation 旗下、Rust 单二进制的 Agent 流量数据面;v1.4.0 加入 MCP 2026-07-28 与 Cross App Access,v1.5.0 加入每 Key 美元与 Token 预算、PostgreSQL 持久化、Gemini 原生入口(文档取证)。
- 面向公司需求的能力:三种 LLM 入口自动互转;虚拟模型优先级组与健康驱逐;虚拟 Key 元数据进入 CEL、指标、日志、限流与预算;MCP 聚合、工具裁剪、参数级策略(ExtMCP)、RFC 9728 元数据代发、RFC 8693 换发;A2A 原生;OTel 全量。POC 7 场景 49 项检查通过(实测证实)。
- 边界与风险:项目年轻,无公开采用名单,Rust 排障门槛,中文资料少;不做 Skill;MRTR 审批网关层做不了(改为拒绝加回执);文件形态热更新有坑。
- 与公司契合:策略执行点的唯一实测可用选项;单二进制利于客户云上与属地化交付。
2.2 Higress v2.2.4
- 定位与现状:阿里开源、CNCF Sandbox 的 Envoy 南北向 AI 网关;MCP 托管、REST 到 MCP 零代码、HiMarket 市场、控制台与 hgctl;v2.2.4 实现 MCP 2026-07-28(文档取证)。
- 面向公司需求的能力:约 35 家厂商代理、Token 限流与配额、Wasm 插件生态、控制台成熟。
- 边界与风险:MCP 授权只到消费者级,工具级与参数级要写 Wasm 插件,OAuth 资源服务器行为仍是提案;对照组 MCP 数据路径未跑通(坑 07、08,实测);依赖 Nacos 与 Redis;与公司存量南北向职责重叠。
- 与公司契合:公司无 Higress 存量,南北向不换;它的优势项用不上。详见
06。
2.3 LiteLLM v1.100.0
- 定位与现状:事实标准的 LLM 代理;Python 控制面加 Rust 数据面(Rust 网关已上线,官方基准 p99 开销 0.66 毫秒,自述);周更节奏,v1.96 加 MCP 权限(entitlements),v1.100 加访问组预算、MCP 网关 RFC 7662 自省、RS256 会话令牌、按团队 / 组织 / 用户强制工具集(文档取证)。
- 面向公司需求的能力:100 多家厂商,
/chat/completions、/messages、/responses三套协议;路由回退、重试、冷却、模型组别名、成本表;虚拟 Key 按 Key / 团队 / 组织 / 用户设预算(日、月重置)、速率、模型访问;MCP 网关:按 Key / 团队 / 组织 / 用户的服务器与工具权限、访问组、工具集、OAuth 授权码与客户端凭据、DCR、SigV4、RFC 8693 换发与 ID-JAG、凭据透传、工具名前缀、OpenAPI 到 MCP、按工具计费;管理面三通道(UI、配置文件、REST API);回调生态最广。 - 边界与风险:无参数级策略与 CEL 级引擎,做不到"按金额、路径、目标对象授权";治理逻辑要写在 Python 回调或钩子里;第三方 k6 实测网关开销从 5 并发 19 毫秒升到 20 并发 66 毫秒(原报告引用),Rust 网关是否已接管治理路径未取证;5,011 个 open issue;许可 NOASSERTION 含企业目录(SSO、审计日志等企业功能需许可);A2A 支持薄(v1.95 起有 A2A 代理,文档取证);不做 Skill。
- 与公司契合:与存量 new-api 同类,能立即改善模型侧的计量与预算;但 MCP 参数级策略、逐跳受众隔离的执行点、私有化体积这三项达不到公司需求。适合做"接入适配层"而不是"策略执行点"。
- 企业许可边界:JWT / OIDC 认证、按 Key / 团队守卫、审计日志、Organizations、团队管理员、Key 标签与轮换、密钥管理器、
/spend/report等需企业许可(源码取证);虚拟 Key 与预算、路由、spend 日志、MCP 网关、Prometheus 免费。逐项清单与对需求的影响见08-LiteLLM企业许可与需求影响.md。
2.4 Kong:OSS 3.9(存量)与 AI Gateway 企业版 3.14
- 定位与现状:公司边缘生产集群跑着 kong 3.9.0 开源镜像,另有 2.x 旧版、ingress controller 与 Konga 管理界面(湖仓取证)。OSS 最新 3.9.3(2026-06-17),12 周 7 次提交全为 CI;AI 能力的开发在企业版仓库。Kong AI Gateway 3.14(2026-04)宣称覆盖 REST、LLM、MCP、A2A(文档取证)。
- OSS 能力:基础 ai-proxy(16 家厂商,含百炼 DashScope、DeepSeek、Ollama、vLLM;chat、completions、embeddings、responses 等路由类型;anthropic、bedrock、gemini 等原生格式;用量统计),ai-prompt-guard、ai-prompt-template、ai-prompt-decorator、ai-request / response-transformer;key-auth、jwt、rate-limiting;Kong Manager OSS。
- 企业版能力:ai-proxy-advanced(多厂商负载均衡与回退)、ai-mcp-proxy(3.12 起;四种模式:透传、REST 转 MCP、只转换、聚合;3.13 起按工具 allow / deny 列表,发现期过滤与调用期 403)、ai-a2a-proxy(3.14 起;Agent Card 地址改写、观测)、ai-rate-limiting-advanced(Token 限流)、ai-semantic-cache、语义守卫、PII 脱敏、Konnect 分析。"仅在 AI Gateway 企业版提供"为插件文档原文(文档取证)。
- 边界与风险:OSS 没有 MCP、A2A、多厂商路由、Token 限流;企业版要采购许可并把存量 3.9 升级到 3.12 以上;MCP 授权靠消费者身份加工具 ACL,无参数级策略、无逐跳换发;每 Key 美元预算未见(未取证);Konnect 控制面为 SaaS。
- 与公司契合:作为南北向存量继续用;作为 AI 策略执行点,OSS 不够、企业版要花钱且仍达不到参数级与换发。
2.5 Portkey 开源网关
- 定位与现状:TypeScript 网关,路由 1,600 多个模型、50 多种守卫;2026-03-24 宣布全量开源(治理、观测、认证、成本控制与 MCP 网关并入开源版,MIT);2026-04-30 宣布、05-29 完成被 Palo Alto Networks 收购(1.17 亿美元),成为 Prisma AIRS 安全平台的 AI 网关;开源仓库最近推送 2026-05-25,最新发布仍是 2026-01 的 v1.15.2,README 的"Gateway 2.0 预发布"未见后续(文档取证,2026-09-14)。
- 面向公司需求的能力:路由、回退、负载均衡、条件路由、重试;Key 预算与速率;观测(日志、链路、成本)是其核心;MCP 网关(认证、访问控制、观测、身份转发);50 多种守卫。
- 边界与风险:开源自持路径事实上关闭(三个半月零提交,收购方是安全平台公司而非网关公司);托管版数据面与控制面在境外,不适用公司与客户数据;MCP 治理粒度未取证到参数级;不做 Skill;A2A 未取证。
- 与公司契合:能力面向"托管 SaaS 网关",与公司自持、私有化、客户属地化的形态相反;不进入候选。
3. 需求对标
3.1 硬门槛
| 门槛 | agentgateway | Higress | LiteLLM | Kong OSS 3.9 | Kong 企业版 3.14 | Portkey 开源网关 |
|---|---|---|---|---|---|---|
| 可自持的开源且活跃维护 | 过 | 过 | 过(许可需逐目录审计) | 过(OSS 低速维护) | 不适用(商业许可) | 不过:2026-05-25 起零提交 |
| MCP 授权至少到工具级 | 过(实测到参数级) | 半过(需自写 Wasm 插件) | 过(Key / 团队 / 组织 / 用户 × 服务器 / 工具) | 不过:OSS 无 MCP | 过(3.13 起工具 ACL) | 过(文档取证,粒度未核) |
| 数据面可私有化且无数据出境 | 过 | 过 | 过(Postgres + Redis) | 过 | 过(数据面);Konnect 控制面为 SaaS | 开源版过;托管版不过 |
| 核心能力不锁企业版 | 过 | 过 | 半过(SSO、审计日志等企业功能) | 不过:AI 核心能力在企业版 | 不过:定义上即企业版 | 过(2026-03 起) |
| 结论 | 进入打分 | 进入打分 | 进入打分 | 对照 | 对照 | 对照 |
3.2 打分表
| 维度 | 权重 | agentgateway v1.5 | Higress v2.2 | LiteLLM v1.100 | Kong OSS 3.9(存量) | Kong AI Gateway 企业版 3.14 | Portkey 开源网关 |
|---|---|---|---|---|---|---|---|
| 模型入口与协议互转 | 10% | 5 | 4 | 5 | 3 | 4 | 4 |
| 别名路由 · 故障转移 · 成本 | 9% | 4 | 3 | 5 | 2 | 4 | 5 |
| 个人 Key 与预算 / 套餐 | 10% | 5 | 3 | 5 | 2 | 3 | 5 |
| MCP 治理(登记 · 裁剪 · 授权 · 换发) | 15% | 5 | 2 | 4 | 0 | 3 | 3 |
| 身份接入(OAuth 2.1 · JWT · IdP) | 8% | 5 | 3 | 4 | 3 | 4 | 3 |
| 计量与可观测字段 | 7% | 5 | 4 | 5 | 3 | 4 | 5 |
| 扩展方式与自研成本 | 8% | 4 | 3 | 4 | 3 | 3 | 3 |
| 部署形态与私有化体积 | 8% | 5 | 3 | 3 | 3 | 2 | 3 |
| 与存量南北向的契合 | 5% | 4 | 2 | 4 | 5 | 4 | 4 |
| Skill 中心 | 5% | 1 | 3 | 1 | 0 | 1 | 1 |
| A2A | 3% | 5 | 2 | 3 | 0 | 3 | 2 |
| 管理面(控制台 · CLI · ops MCP) | 4% | 4 | 5 | 5 | 4 | 5 | 5 |
| 成熟度 · 生态 · 团队技能 | 8% | 3 | 5 | 4 | 4 | 4 | 2 |
| 合计(10 分制) | 100% | 8.76 | 6.36 | 8.28 | 4.68 | 6.74 | 7.08 |
3.3 评分依据(LiteLLM、Kong、Portkey;agentgateway 与 Higress 见 06 §3.2)
| 维度 | LiteLLM v1.100 | Kong OSS 3.9 | Kong 企业版 3.14 | Portkey 开源网关 |
|---|---|---|---|---|
| 模型入口与协议互转 | 三套协议、100 多家厂商、Rust 桥接 /v1/messages(文档取证) |
ai-proxy 16 家厂商,多种路由类型与原生格式;单路由单厂商(文档取证) | 同 OSS 加 ai-proxy-advanced 多目标 | 1,600 多个模型;OpenAI 兼容统一入口;Anthropic 原生入口未逐项取证 |
| 别名路由 · 故障转移 · 成本 | 路由回退、重试、冷却、模型组、成本表、自动路由(文档取证) | 无多目标与回退 | ai-proxy-advanced 负载均衡、回退、重试;成本在 Konnect 分析 | 配置化回退、负载均衡、条件路由、重试;成本追踪 |
| 个人 Key 与预算 / 套餐 | 虚拟 Key 元数据、按 Key / 团队 / 组织 / 用户 / 访问组预算与重置、速率、模型访问、UI(文档取证) | key-auth 与 rate-limiting;无 AI 预算 | ai-rate-limiting-advanced 按 Token 限流;美元硬预算未取证 | Key 预算与速率、工作区 |
| MCP 治理 | 服务器与工具权限、访问组、工具集、OAuth 上游、DCR、RFC 8693 与 ID-JAG、透传、前缀、OpenAPI 转 MCP、按工具计费;无参数级策略(文档取证) | 无 | ai-mcp-proxy 四种模式;3.13 起工具 allow / deny;消费者身份;无参数级与换发(文档取证) | MCP 网关:认证、访问控制、身份转发;粒度未核 |
| 身份接入 | JWT、SSO(企业功能)、MCP OAuth 与自省、CLI OAuth 登录 | key-auth、jwt、basic;OIDC 在企业版 | OIDC 插件、ai-mcp-oauth2 | Key、SSO(企业 / 托管)、MCP OAuth |
| 计量与可观测字段 | 每请求 spend 日志、按工具成本、Langfuse / OTel / Datadog 等回调 | ai-proxy 用量统计、Prometheus AI 指标 | Konnect AI 分析、OTel | 日志、链路、成本、延迟是核心能力 |
| 扩展方式与自研成本 | Python 回调与钩子、自定义认证与守卫;治理逻辑进代码 | Lua / Go / Python / JS 插件运行器 | 同 OSS;企业插件不可改 | TypeScript 插件与守卫钩子;停更后价值下降 |
| 部署形态与私有化体积 | Python 容器 + Postgres + Redis(多实例);Helm / Docker | Kong + Postgres 或 DB-less;OpenResty | 每节点许可;升级 3.9 到 3.14 | Node 容器;控制面与日志存储另需组件 |
| 与存量南北向的契合 | 位于南北向之后,不重叠 | 本身就是存量 | 存量升级路径 | 位于南北向之后 |
| Skill 中心 | 无 | 无 | 无 | 无(有提示词库) |
| A2A | v1.95 起 A2A 代理(文档取证) | 无 | ai-a2a-proxy(3.14 起) | 未取证 |
| 管理面 | UI + 配置文件 + REST API 三通道 | Admin API、deck、Kong Manager OSS | Konnect | 控制面 UI 开源 |
| 成熟度 · 生态 · 团队技能 | 体量最大;单公司;5,011 个 open issue;Python 团队零摩擦 | 十年生产;公司已在运维 | 商业成熟;采购与锁定 | 收购后停更;境外托管 |
3.4 敏感性:LiteLLM 什么时候能追平 agentgateway
把权重改成"模型侧口径"(模型入口、路由、预算各 12%,管理面 8%,MCP 治理 8%,私有化 4%,其余不变),结果为 agentgateway 8.78、LiteLLM 8.74、Portkey 7.64、Kong 企业版 7.20、Higress 6.74。也就是说,只有当公司只把网关当"模型网关"、把 MCP 授权与私有化交付放到次要位置时,LiteLLM 才与 agentgateway 打平。公司需求(翟保延 B1–B7、E1–E6,公司版方案的客户云上单开与属地化)不允许这样降权。
4. 场景对标:公司关键需求下各家怎么做
| 需求 | agentgateway | LiteLLM | Kong 企业版 | Higress | Portkey 开源网关 |
|---|---|---|---|---|---|
| 一把个人 Key 同时用于 LLM / MCP / Skill,使用方零配置 | 虚拟 Key 元数据进 CEL;LLM 与 MCP 监听器共用同一 Key 存储;Skill 路由复用 | 虚拟 Key 同时管模型与 MCP 权限(Key 级工具权限);Skill 无 | key-auth 消费者贯穿 LLM 与 MCP 路由;预算弱 | key-auth 消费者;MCP 工具级需插件 | Key 贯穿模型与 MCP;Skill 无 |
| Claude Code、Codex、pi agent 同时直连 | 三种入口互转(实测流式) | 三套协议原生(文档取证) | anthropic 原生格式路由 + openai 路由分别配置 | OpenAI 兼容为主,Claude Code 模式 v2.2.0 | OpenAI 兼容统一入口;Anthropic 入口未核 |
| MCP 聚合端点与三级授权(server、工具、参数) | 多 target 聚合、CEL 工具级、ExtMCP 参数级(实测) | 多 server 前缀聚合、Key / 团队 / 组织 / 用户 × 服务器 / 工具;无参数级 | 聚合模式(listener)、工具 ACL;无参数级 | 托管 + 转换;工具级需插件 | 访问控制;粒度未核 |
| 逐跳换发、用户中心登录桥、每跳一个受众 | RFC 8693 换发实测;RFC 9728 元数据代发 | RFC 8693 与 ID-JAG(文档取证);元数据代发未取证 | 消费者身份透传;无换发 | 无换发(提案) | 身份转发;换发未取证 |
| 每 Key 预算与余量、逐次成本记录 | 每 Key 美元 / Token 滚动预算、管理 API 查余量、价目目录 | 按 Key / 团队 / 组织预算与重置、spend 日志 | Token 限流;美元预算未取证 | Token 限流与配额(Redis) | Key 预算、成本日志 |
| 别名与同模型跨厂商故障转移 | 虚拟模型优先级组 + 健康驱逐 + 重试 | 模型组回退、冷却、重试 | ai-proxy-advanced 回退 | ai-load-balancer、fallback | 配置化回退 |
| 客户云上单开与属地化离线包 | 单二进制 + 可选 PostgreSQL | Python + Postgres + Redis | 每节点许可,离线激活 | Envoy + Istio + Nacos / Redis | Node + 控制面组件;托管版不可用 |
| 与存量南北向(APISIX、Kong、ingress)契合 | 串联在后,不重叠 | 串联在后 | 存量升级 | 重叠 | 串联在后 |
| Skill 中心 | 自研,网关提供路由与 Key 校验 | 自研 | 自研 | HiMarket(独立系统) | 自研 |
| A2A(低优先级) | 原生 | A2A 代理(v1.95 起) | ai-a2a-proxy(3.14) | 半成品 | 未取证 |
5. 总拥有成本与风险
| 项 | agentgateway | Higress | LiteLLM | Kong OSS(存量) | Kong 企业版 | Portkey 开源网关 |
|---|---|---|---|---|---|---|
| 许可与商业模式 | Apache-2.0;无企业版锁定;solo.io 可选商业支持 | Apache-2.0;阿里云 AI 网关商业版 | MIT 主体 + 企业目录(SSO、审计等需许可);按席位或用量的企业版 | Apache-2.0 | 按节点或请求订阅(价格未取证);Konnect | MIT;托管版为 Palo Alto Networks 产品 |
| 运维栈与团队技能 | Rust 二进制、YAML / CRD;排障需 Rust 栈 | Envoy、Istio、Wasm、Nacos、Redis | Python、Postgres、Redis;Python 团队零摩擦 | OpenResty;公司已在运维 | 同 OSS + 许可与升级 | Node;停更后无人修 |
| 自研工作量(相对公司版 27.5 人周) | 基线 | 加 Wasm 插件(工具级 / 参数级授权、元数据代发、换发)约 +4 人周 | 管理中心可复用其 UI 与 Key 服务,约 −2 人周;参数级策略与审批回执要写在 Python 钩子里,约 +2 人周;私有化打包 +1 人周 | 不适用(无 MCP) | 采购与升级 +2 人周;参数级与换发仍需自建 | 不适用 |
| 供应商与存续风险 | 年轻项目;用 IR 解耦对冲 | 单一公司主导(Top3 59%) | 单一公司;社区体量大;性能与 issue 负债 | 低速维护 | 锁定与涨价 | 已被收购、OSS 冻结 |
| 数据与合规 | 自持 | 自持 | 自持 | 自持 | 数据面自持,Konnect 境外 SaaS(中国区未取证) | 托管版境外 |
| 迁移退路 | IR 可编译到 Envoy AI Gateway | 同上 | 配置进 git,避免治理逻辑写进回调 | — | — | — |
6. 选型结论
决策:AI 策略执行点主选 agentgateway;南北向沿用 APISIX、Kong OSS 3.9、ingress-nginx 与 ALB + WAF;LiteLLM 为条件备选;Higress 与 Portkey 不引入;不采购 Kong AI Gateway 企业版。状态:建议(待评审)。
组合形态:
flowchart LR
A[使用方:Claude Code · Codex · Work 工具 · 业务服务 · 客户应用] --> B[南北向存量:DNS → WAF → ALB → APISIX / Kong OSS / ingress]
B --> C[AI 策略执行点:agentgateway<br/>LLM 网关 · MCP 网关 · A2A 网关]
C --> D[模型厂商 · 自托管模型]
C --> E[公司统一 MCP server]
C -. 条件备选:长尾厂商或先拿计量 .-> F[LiteLLM 接入适配层<br/>只接模型流量 · 不接 MCP 与外部]
F --> D
C --> G[Skill 中心(自研)]
决策依据:
- 硬门槛淘汰 Portkey(停更)与 Kong OSS(无 MCP);Kong 企业版与 Higress 都要额外付出(许可与升级,或 Wasm 插件)却仍到不了参数级授权与逐跳换发。
- 剩下的 agentgateway 与 LiteLLM,差距在公司需求的 P0 项上:MCP 参数级策略与网关侧执行钩子、私有化体积、性能形态。LiteLLM 的强项(厂商覆盖、预算、管理面)agentgateway 也具备或可由自研管理中心补齐。
- 公司已有 new-api,说明"模型代理"这一层的需求已经被满足过一次;下一步要解决的是身份、授权、换发与多环境交付,这是 agentgateway 的定位。
LiteLLM 的启用条件(同时满足才启用,且只作为适配层):出现 agentgateway 不支持且业务必需的长尾厂商,或试点前两周内必须先拿到计量与预算;部署在 agentgateway 之后,只接模型流量;配置进 git,不在回调里写治理逻辑;不接 MCP、不接外部客户流量。
复评触发条件:
- LiteLLM 的 Rust 网关接管全部治理路径并提供参数级策略与网关侧执行钩子。
- 公司决定采购 Kong AI Gateway 企业版并把南北向统一升级到 3.14 以上。
- Portkey 开源仓库恢复维护,且有中国区可用的控制面。
- Higress 的触发条件沿用
06§4(南北向统一到 Envoy、Skill 与管理面不自研、接受 Wasm 插件)。 - agentgateway 出现治理或维护风险。
7. 与原报告及 06 的关系
| 产品 | 原报告 9 维(文档判断) | 本文 13 维(公司需求) | 变化原因 |
|---|---|---|---|
| agentgateway | 8.5 | 8.76 | POC 实测与需求权重(见 06) |
| Higress | 8.7 | 6.36 | 见 06:Skill 与管理面转为自研、南北向不换、MCP 治理实测 |
| LiteLLM | 7.7 | 8.28 | 模型侧与预算权重上调;MCP 网关 2026 年新增权限、OAuth、换发、自省(文档取证);性能与私有化仍是扣分项 |
| Kong OSS | 5.7 | 4.68 | 公司需求里 MCP 治理权重 15%,OSS 为 0 |
| Kong 企业版 | 未打分 | 6.74 | 首次纳入:3.12 起 ai-mcp-proxy、3.14 起 ai-a2a-proxy;许可与升级成本另计 |
| Portkey | 未打分(停更出局) | 7.08(对照) | 2026-03 全量开源后能力面完整,但收购后停更,硬门槛不过 |
原报告的结论四("星数不等于可用")与四条尽调清单在本文继续成立:Portkey 与 Kong OSS 都是高星但不可用的实例。
附录 A · 评分明细与复算
评分与热力图由 diagrams/gen_benchmark_score.py 生成:六列分数与权重在脚本顶部,另含"模型侧口径"权重;运行即输出 Markdown 表、两组总分与 diagrams/benchmark-heatmap.svg。评审时建议先对 §3.2 的每一格给异议,再看总分。
附录 B · 证据清单(2026-09-14 查阅)
- GitHub API:Portkey-AI/gateway(star 12,983,最近推送 2026-05-25,MIT);BerriAI/litellm(star 58,653,最近推送 2026-09-14,NOASSERTION);Kong/kong 发布列表(3.9.3,2026-06-17)。原报告 2026-09-04 的硬数据用于 agentgateway、Higress、Kong OSS 的 star 与提交统计。
- Palo Alto Networks 新闻稿:宣布收购 Portkey(2026-04-30)与完成收购(2026-05-29);FY2026 年报披露对价 1.17 亿美元;Portkey 全量开源公告(2026-03-24)。
- LiteLLM 发布说明 v1.96.0–v1.100.0;LiteLLM MCP 网关文档(权限、OAuth、DCR、RFC 8693 与 ID-JAG、透传、前缀、OpenAPI 转 MCP);虚拟 Key 与预算文档。
- Kong 插件文档:AI Proxy(v3.6+,厂商与路由类型)、AI MCP Proxy(企业版,3.12+,四种模式,3.13 起工具 ACL)、AI A2A Proxy(企业版,3.14+)、AI Proxy Advanced(企业版);Kong AI Gateway 3.14 说明。
- Portkey 仓库 README(1,600 多模型、50 多种守卫、MCP 网关、部署方式、Gateway 2.0 预发布)。
- 原报告第 02 章硬数据、第 04 章"四款高星产品为什么出局"、第 05 章 LiteLLM 档案、第 09 章 POC、第 11 章需求评估;
06-选型复评报告.md;04-现状盘点与证据索引.md(湖仓:Kong 镜像分布,无 LiteLLM / Portkey / Higress 镜像)。