AI 网关对标选型方案

AI 网关对标选型方案

agentgateway · Higress · LiteLLM · Kong AI Gateway(OSS 存量 / 企业版)· Portkey:硬门槛 → 公司需求 13 维打分 → 场景对标 → 总拥有成本与风险 → 选型结论与复评触发条件。

v1.0 · 2026-09-14 · 评审稿 · 评分表可用 diagrams/gen_benchmark_score.py 复算

版本:v1.0 · 2026-09-14 · 评审稿 作者:Claude Code(樊国柱会话) 定位:独立的对标选型文档。在《选型复评报告》(06,agentgateway 与 Higress 两家)的基础上扩展为五款产品六个口径(Kong 拆为存量 OSS 与 AI Gateway 企业版),沿用同一套公司需求 13 维评分,可独立阅读。 输入:原报告《企业 AI Gateway 选型调研与 POC · 2026》的硬数据(2026-09-04)与产品档案;本文 2026-09-14 复核的 GitHub 数据(star、最近推送、发布)与官方文档;POC 实测;需求评估(顾磊、翟保延、我的思考);阶段 0 湖仓盘点;《云砺 AI 网关方案(公司版)》。 配套:评分脚本 diagrams/gen_benchmark_score.py(改分数或权重即可复算并重出热力图)。

证据等级:实测证实(POC 49 项检查、内网测试机部署)、文档取证(官方文档、发布说明、GitHub API)、湖仓取证(研发本体湖仓)、源码取证需自建未取证。未标注者为设计判断。


0. 一页结论

  1. 先过硬门槛,再看分数。 四条门槛:可自持的开源且活跃维护;MCP 授权至少到工具级;数据面可私有化且无数据出境;核心能力不锁在企业版。Portkey 开源网关过不了第一条(被 Palo Alto Networks 收购后,仓库自 2026-05-25 起零提交,托管版并入其安全平台);Kong OSS 3.9 过不了第二条(MCP、A2A、多厂商路由全部在企业版);Kong AI Gateway 企业版过不了第四条;Higress 第二条要靠自写插件,算半过。agentgateway 与 LiteLLM 四条全过。
  2. 打分结果(公司需求口径,13 维,10 分制):agentgateway 8.76、LiteLLM 8.28、Portkey 7.08、Kong 企业版 6.74、Higress 6.36、Kong OSS 4.68。未过门槛者的分数只作对照。
  3. 真正的二选一是 agentgateway 与 LiteLLM。 LiteLLM 在模型侧与 agentgateway 打平甚至更好:100 多家厂商、路由与回退、每 Key 与团队预算、最完整的管理面;v1.100 的 MCP 网关也已有按 Key / 团队 / 组织 / 用户的工具权限、OAuth 上游认证、RFC 8693 换发与 RFC 7662 自省(文档取证)。差距在四处:没有参数级策略与网关侧的策略执行钩子;Python 数据面开销随并发劣化(第三方 k6 实测),治理路径仍在 Python;私有化要带 Postgres 与 Redis,体积与依赖偏重;许可为 NOASSERTION,含企业目录,自持前要逐目录审计。把模型侧权重调高、MCP 与私有化调低,两者才打平(8.78 对 8.74)。
  4. 公司已经有一个"LiteLLM 同类"在跑。 全部内部 AI 流量今天经统一代理 new-api 转发(湖仓取证),它与 LiteLLM 是同一类产品。换成 LiteLLM 是"更好的 new-api",解决不了 MCP 授权、逐跳换发与私有化交付,而这些正是公司需求里的 P0。
  5. 决策:AI 策略执行点主选 agentgateway;LiteLLM 列为条件备选,仅当出现 agentgateway 不支持的长尾厂商或需要在试点前两周内先拿到计量时,作为 agentgateway 后面的接入适配层,不承接 MCP 与外部流量;Kong 存量(OSS 3.9,湖仓取证为开源镜像)继续做南北向,不采购企业版承担 AI 策略;Higress 与 Portkey 不引入。
  6. 复评触发:LiteLLM 的 Rust 网关承担全部治理路径并提供参数级策略;公司采购 Kong 企业版并把南北向统一升级到 3.14;Portkey 仓库恢复维护且有中国区可用的控制面;Higress 的触发条件沿用 06 §4。

1. 对标范围与口径

1.1 为什么是这五款

五款覆盖了 AI 网关的五种形态,也是本轮需求方点名的候选:

形态 产品 一句话定位
Rust 专用 Agent 数据面 agentgateway v1.5.0 LLM、MCP、A2A 三类流量一个策略面;Linux Foundation
Envoy 南北向一体的 AI 网关 Higress v2.2.4 Envoy + Istio;南北向 + AI + MCP 托管 + 市场;CNCF Sandbox
Python 接入适配层 / LLM 代理 LiteLLM v1.100.0 100 多家厂商、虚拟 Key、预算、MCP 网关;与公司存量 new-api 同类
存量 API 网关加 AI 插件 Kong OSS 3.9(存量)/ Kong AI Gateway 企业版 3.14 OSS 只有基础 ai-proxy;MCP、A2A、多厂商路由、语义缓存在企业版
商业化托管网关的开源版 Portkey 开源网关 2026-03 全量开源(含 MCP 网关与治理);2026-05 被 Palo Alto Networks 收购

Envoy AI Gateway、Bifrost、APISIX 等其余候选见原报告,本文不重复;APISIX 作为公司存量南北向之一在 §5 里提及。

1.2 硬数据与现状(2026-09-14 复核)

产品 star 最近推送 / 最新版本 许可与治理 采用证据 公司存量(湖仓取证)
agentgateway 4.7k(09-04) 活跃;v1.5.0(2026-08-27);近 12 月 43 次发版 Apache-2.0;Linux Foundation / AAIF;234 贡献者 无公开采用名单;kgateway、Istio ambient、llm-d 采用为数据面 无;POC 已验证并部署到内网测试机
Higress 9.3k(09-04) 活跃;v2.2.4(2026-08-13) Apache-2.0;CNCF Sandbox(2026-03);197 贡献者,Top3 占 59% 20 家公开采用 无 Higress 镜像
LiteLLM 58.7k(09-14) 09-14 仍在推送;v1.100.0 稳定版(2026-09-06);5,011 个 open issue NOASSERTION(MIT 主体 + 企业功能目录);BerriAI 单一公司;376 贡献者 无公开名单;社区体量最大 无 LiteLLM 镜像;同类的 new-api 承接全部内部 AI 流量
Kong OSS 44.1k(09-04) 3.9.3(2026-06-17);12 周 7 次提交,全为 CI 与变更日志 Apache-2.0;Kong Inc.;功能开发在企业版仓库 十年生产历史 kong 3.9.0 开源镜像 5 个容器(边缘生产集群)、2.x 旧版、ingress controller、Konga;未见企业版镜像
Kong AI Gateway 企业版 同上 3.14(2026-04)覆盖 REST、LLM、MCP、A2A 商业许可;Konnect 控制面 商业客户 无企业版许可证据
Portkey 开源网关 13.0k(09-14) 最近推送 2026-05-25;最新发布 v1.15.2(2026-01-12);265 个 open issue MIT;母公司 2026-05-29 被 Palo Alto Networks 以 1.17 亿美元收购,成为 Prisma AIRS 的 AI 网关 自述 24,000 家组织、日均 120M 请求(收购前)

1.3 评分口径

沿用 06 §3 的 13 维与权重(权重按公司需求强度设定,来源写在 §3.2 表中);分数 0–5,口径与原报告一致:5 = 一等公民且有产品化实现;4 = 完整可用但有边界;3 = 基本可用需补齐;2 = 半成品或路线图;1 = 边缘支持;0 = 无。agentgateway 与 Higress 的分数与依据直接沿用 06


2. 候选档案

2.1 agentgateway v1.5.0

  • 定位与现状:Linux Foundation 旗下、Rust 单二进制的 Agent 流量数据面;v1.4.0 加入 MCP 2026-07-28 与 Cross App Access,v1.5.0 加入每 Key 美元与 Token 预算、PostgreSQL 持久化、Gemini 原生入口(文档取证)。
  • 面向公司需求的能力:三种 LLM 入口自动互转;虚拟模型优先级组与健康驱逐;虚拟 Key 元数据进入 CEL、指标、日志、限流与预算;MCP 聚合、工具裁剪、参数级策略(ExtMCP)、RFC 9728 元数据代发、RFC 8693 换发;A2A 原生;OTel 全量。POC 7 场景 49 项检查通过(实测证实)。
  • 边界与风险:项目年轻,无公开采用名单,Rust 排障门槛,中文资料少;不做 Skill;MRTR 审批网关层做不了(改为拒绝加回执);文件形态热更新有坑。
  • 与公司契合:策略执行点的唯一实测可用选项;单二进制利于客户云上与属地化交付。

2.2 Higress v2.2.4

  • 定位与现状:阿里开源、CNCF Sandbox 的 Envoy 南北向 AI 网关;MCP 托管、REST 到 MCP 零代码、HiMarket 市场、控制台与 hgctl;v2.2.4 实现 MCP 2026-07-28(文档取证)。
  • 面向公司需求的能力:约 35 家厂商代理、Token 限流与配额、Wasm 插件生态、控制台成熟。
  • 边界与风险:MCP 授权只到消费者级,工具级与参数级要写 Wasm 插件,OAuth 资源服务器行为仍是提案;对照组 MCP 数据路径未跑通(坑 07、08,实测);依赖 Nacos 与 Redis;与公司存量南北向职责重叠。
  • 与公司契合:公司无 Higress 存量,南北向不换;它的优势项用不上。详见 06

2.3 LiteLLM v1.100.0

  • 定位与现状:事实标准的 LLM 代理;Python 控制面加 Rust 数据面(Rust 网关已上线,官方基准 p99 开销 0.66 毫秒,自述);周更节奏,v1.96 加 MCP 权限(entitlements),v1.100 加访问组预算、MCP 网关 RFC 7662 自省、RS256 会话令牌、按团队 / 组织 / 用户强制工具集(文档取证)。
  • 面向公司需求的能力:100 多家厂商,/chat/completions/messages/responses 三套协议;路由回退、重试、冷却、模型组别名、成本表;虚拟 Key 按 Key / 团队 / 组织 / 用户设预算(日、月重置)、速率、模型访问;MCP 网关:按 Key / 团队 / 组织 / 用户的服务器与工具权限、访问组、工具集、OAuth 授权码与客户端凭据、DCR、SigV4、RFC 8693 换发与 ID-JAG、凭据透传、工具名前缀、OpenAPI 到 MCP、按工具计费;管理面三通道(UI、配置文件、REST API);回调生态最广。
  • 边界与风险:无参数级策略与 CEL 级引擎,做不到"按金额、路径、目标对象授权";治理逻辑要写在 Python 回调或钩子里;第三方 k6 实测网关开销从 5 并发 19 毫秒升到 20 并发 66 毫秒(原报告引用),Rust 网关是否已接管治理路径未取证;5,011 个 open issue;许可 NOASSERTION 含企业目录(SSO、审计日志等企业功能需许可);A2A 支持薄(v1.95 起有 A2A 代理,文档取证);不做 Skill。
  • 与公司契合:与存量 new-api 同类,能立即改善模型侧的计量与预算;但 MCP 参数级策略、逐跳受众隔离的执行点、私有化体积这三项达不到公司需求。适合做"接入适配层"而不是"策略执行点"。
  • 企业许可边界:JWT / OIDC 认证、按 Key / 团队守卫、审计日志、Organizations、团队管理员、Key 标签与轮换、密钥管理器、/spend/report 等需企业许可(源码取证);虚拟 Key 与预算、路由、spend 日志、MCP 网关、Prometheus 免费。逐项清单与对需求的影响见 08-LiteLLM企业许可与需求影响.md

2.4 Kong:OSS 3.9(存量)与 AI Gateway 企业版 3.14

  • 定位与现状:公司边缘生产集群跑着 kong 3.9.0 开源镜像,另有 2.x 旧版、ingress controller 与 Konga 管理界面(湖仓取证)。OSS 最新 3.9.3(2026-06-17),12 周 7 次提交全为 CI;AI 能力的开发在企业版仓库。Kong AI Gateway 3.14(2026-04)宣称覆盖 REST、LLM、MCP、A2A(文档取证)。
  • OSS 能力:基础 ai-proxy(16 家厂商,含百炼 DashScope、DeepSeek、Ollama、vLLM;chat、completions、embeddings、responses 等路由类型;anthropic、bedrock、gemini 等原生格式;用量统计),ai-prompt-guard、ai-prompt-template、ai-prompt-decorator、ai-request / response-transformer;key-auth、jwt、rate-limiting;Kong Manager OSS。
  • 企业版能力:ai-proxy-advanced(多厂商负载均衡与回退)、ai-mcp-proxy(3.12 起;四种模式:透传、REST 转 MCP、只转换、聚合;3.13 起按工具 allow / deny 列表,发现期过滤与调用期 403)、ai-a2a-proxy(3.14 起;Agent Card 地址改写、观测)、ai-rate-limiting-advanced(Token 限流)、ai-semantic-cache、语义守卫、PII 脱敏、Konnect 分析。"仅在 AI Gateway 企业版提供"为插件文档原文(文档取证)。
  • 边界与风险:OSS 没有 MCP、A2A、多厂商路由、Token 限流;企业版要采购许可并把存量 3.9 升级到 3.12 以上;MCP 授权靠消费者身份加工具 ACL,无参数级策略、无逐跳换发;每 Key 美元预算未见(未取证);Konnect 控制面为 SaaS。
  • 与公司契合:作为南北向存量继续用;作为 AI 策略执行点,OSS 不够、企业版要花钱且仍达不到参数级与换发。

2.5 Portkey 开源网关

  • 定位与现状:TypeScript 网关,路由 1,600 多个模型、50 多种守卫;2026-03-24 宣布全量开源(治理、观测、认证、成本控制与 MCP 网关并入开源版,MIT);2026-04-30 宣布、05-29 完成被 Palo Alto Networks 收购(1.17 亿美元),成为 Prisma AIRS 安全平台的 AI 网关;开源仓库最近推送 2026-05-25,最新发布仍是 2026-01 的 v1.15.2,README 的"Gateway 2.0 预发布"未见后续(文档取证,2026-09-14)。
  • 面向公司需求的能力:路由、回退、负载均衡、条件路由、重试;Key 预算与速率;观测(日志、链路、成本)是其核心;MCP 网关(认证、访问控制、观测、身份转发);50 多种守卫。
  • 边界与风险:开源自持路径事实上关闭(三个半月零提交,收购方是安全平台公司而非网关公司);托管版数据面与控制面在境外,不适用公司与客户数据;MCP 治理粒度未取证到参数级;不做 Skill;A2A 未取证。
  • 与公司契合:能力面向"托管 SaaS 网关",与公司自持、私有化、客户属地化的形态相反;不进入候选。

3. 需求对标

3.1 硬门槛

门槛 agentgateway Higress LiteLLM Kong OSS 3.9 Kong 企业版 3.14 Portkey 开源网关
可自持的开源且活跃维护 过(许可需逐目录审计) 过(OSS 低速维护) 不适用(商业许可) 不过:2026-05-25 起零提交
MCP 授权至少到工具级 过(实测到参数级) 半过(需自写 Wasm 插件) 过(Key / 团队 / 组织 / 用户 × 服务器 / 工具) 不过:OSS 无 MCP 过(3.13 起工具 ACL) 过(文档取证,粒度未核)
数据面可私有化且无数据出境 过(Postgres + Redis) 过(数据面);Konnect 控制面为 SaaS 开源版过;托管版不过
核心能力不锁企业版 半过(SSO、审计日志等企业功能) 不过:AI 核心能力在企业版 不过:定义上即企业版 过(2026-03 起)
结论 进入打分 进入打分 进入打分 对照 对照 对照

3.2 打分表

维度 权重 agentgateway v1.5 Higress v2.2 LiteLLM v1.100 Kong OSS 3.9(存量) Kong AI Gateway 企业版 3.14 Portkey 开源网关
模型入口与协议互转 10% 5 4 5 3 4 4
别名路由 · 故障转移 · 成本 9% 4 3 5 2 4 5
个人 Key 与预算 / 套餐 10% 5 3 5 2 3 5
MCP 治理(登记 · 裁剪 · 授权 · 换发) 15% 5 2 4 0 3 3
身份接入(OAuth 2.1 · JWT · IdP) 8% 5 3 4 3 4 3
计量与可观测字段 7% 5 4 5 3 4 5
扩展方式与自研成本 8% 4 3 4 3 3 3
部署形态与私有化体积 8% 5 3 3 3 2 3
与存量南北向的契合 5% 4 2 4 5 4 4
Skill 中心 5% 1 3 1 0 1 1
A2A 3% 5 2 3 0 3 2
管理面(控制台 · CLI · ops MCP) 4% 4 5 5 4 5 5
成熟度 · 生态 · 团队技能 8% 3 5 4 4 4 2
合计(10 分制) 100% 8.76 6.36 8.28 4.68 6.74 7.08
对标打分热力图:13 维 × 6 款(公司需求口径) 对标打分热力图 · 公司需求口径(13 维,0–5 分) 颜色越深分数越高;硬门槛未通过的产品(Kong OSS 存量、Portkey 开源网关)分数仅作对照,见 §3.1 agentgateway Higress LiteLLM Kong OSS Kong 企业版 Portkey 模型入口与协议互转 10% 5 4 5 3 4 4 别名路由 · 故障转移 · 成本 9% 4 3 5 2 4 5 个人 Key 与预算 / 套餐 10% 5 3 5 2 3 5 MCP 治理(登记 · 裁剪 · 授权 · 换发) 15% 5 2 4 0 3 3 身份接入(OAuth 2.1 · JWT · IdP) 8% 5 3 4 3 4 3 计量与可观测字段 7% 5 4 5 3 4 5 扩展方式与自研成本 8% 4 3 4 3 3 3 部署形态与私有化体积 8% 5 3 3 3 2 3 与存量南北向的契合 5% 4 2 4 5 4 4 Skill 中心 5% 1 3 1 0 1 1 A2A 3% 5 2 3 0 3 2 管理面(控制台 · CLI · ops MCP) 4% 4 5 5 4 5 5 成熟度 · 生态 · 团队技能 8% 3 5 4 4 4 2 合计(10 分制) 8.76 6.36 8.28 4.68 6.74 7.08 0 分 1 分 2 分 3 分 4 分 5 分 5 = 一等公民且产品化 · 4 = 完整可用有边界 · 3 = 需补齐 · 2 = 半成品或路线图 · 1 = 边缘支持 · 0 = 无;证据等级见 07 §3.3
图 · 对标打分热力图(公司需求口径,13 维 × 6 列) · 下载:SVG PNG

3.3 评分依据(LiteLLM、Kong、Portkey;agentgateway 与 Higress 见 06 §3.2)

维度 LiteLLM v1.100 Kong OSS 3.9 Kong 企业版 3.14 Portkey 开源网关
模型入口与协议互转 三套协议、100 多家厂商、Rust 桥接 /v1/messages(文档取证) ai-proxy 16 家厂商,多种路由类型与原生格式;单路由单厂商(文档取证) 同 OSS 加 ai-proxy-advanced 多目标 1,600 多个模型;OpenAI 兼容统一入口;Anthropic 原生入口未逐项取证
别名路由 · 故障转移 · 成本 路由回退、重试、冷却、模型组、成本表、自动路由(文档取证) 无多目标与回退 ai-proxy-advanced 负载均衡、回退、重试;成本在 Konnect 分析 配置化回退、负载均衡、条件路由、重试;成本追踪
个人 Key 与预算 / 套餐 虚拟 Key 元数据、按 Key / 团队 / 组织 / 用户 / 访问组预算与重置、速率、模型访问、UI(文档取证) key-auth 与 rate-limiting;无 AI 预算 ai-rate-limiting-advanced 按 Token 限流;美元硬预算未取证 Key 预算与速率、工作区
MCP 治理 服务器与工具权限、访问组、工具集、OAuth 上游、DCR、RFC 8693 与 ID-JAG、透传、前缀、OpenAPI 转 MCP、按工具计费;无参数级策略(文档取证) ai-mcp-proxy 四种模式;3.13 起工具 allow / deny;消费者身份;无参数级与换发(文档取证) MCP 网关:认证、访问控制、身份转发;粒度未核
身份接入 JWT、SSO(企业功能)、MCP OAuth 与自省、CLI OAuth 登录 key-auth、jwt、basic;OIDC 在企业版 OIDC 插件、ai-mcp-oauth2 Key、SSO(企业 / 托管)、MCP OAuth
计量与可观测字段 每请求 spend 日志、按工具成本、Langfuse / OTel / Datadog 等回调 ai-proxy 用量统计、Prometheus AI 指标 Konnect AI 分析、OTel 日志、链路、成本、延迟是核心能力
扩展方式与自研成本 Python 回调与钩子、自定义认证与守卫;治理逻辑进代码 Lua / Go / Python / JS 插件运行器 同 OSS;企业插件不可改 TypeScript 插件与守卫钩子;停更后价值下降
部署形态与私有化体积 Python 容器 + Postgres + Redis(多实例);Helm / Docker Kong + Postgres 或 DB-less;OpenResty 每节点许可;升级 3.9 到 3.14 Node 容器;控制面与日志存储另需组件
与存量南北向的契合 位于南北向之后,不重叠 本身就是存量 存量升级路径 位于南北向之后
Skill 中心 无(有提示词库)
A2A v1.95 起 A2A 代理(文档取证) ai-a2a-proxy(3.14 起) 未取证
管理面 UI + 配置文件 + REST API 三通道 Admin API、deck、Kong Manager OSS Konnect 控制面 UI 开源
成熟度 · 生态 · 团队技能 体量最大;单公司;5,011 个 open issue;Python 团队零摩擦 十年生产;公司已在运维 商业成熟;采购与锁定 收购后停更;境外托管

3.4 敏感性:LiteLLM 什么时候能追平 agentgateway

把权重改成"模型侧口径"(模型入口、路由、预算各 12%,管理面 8%,MCP 治理 8%,私有化 4%,其余不变),结果为 agentgateway 8.78、LiteLLM 8.74、Portkey 7.64、Kong 企业版 7.20、Higress 6.74。也就是说,只有当公司只把网关当"模型网关"、把 MCP 授权与私有化交付放到次要位置时,LiteLLM 才与 agentgateway 打平。公司需求(翟保延 B1–B7、E1–E6,公司版方案的客户云上单开与属地化)不允许这样降权。


4. 场景对标:公司关键需求下各家怎么做

需求 agentgateway LiteLLM Kong 企业版 Higress Portkey 开源网关
一把个人 Key 同时用于 LLM / MCP / Skill,使用方零配置 虚拟 Key 元数据进 CEL;LLM 与 MCP 监听器共用同一 Key 存储;Skill 路由复用 虚拟 Key 同时管模型与 MCP 权限(Key 级工具权限);Skill 无 key-auth 消费者贯穿 LLM 与 MCP 路由;预算弱 key-auth 消费者;MCP 工具级需插件 Key 贯穿模型与 MCP;Skill 无
Claude Code、Codex、pi agent 同时直连 三种入口互转(实测流式) 三套协议原生(文档取证) anthropic 原生格式路由 + openai 路由分别配置 OpenAI 兼容为主,Claude Code 模式 v2.2.0 OpenAI 兼容统一入口;Anthropic 入口未核
MCP 聚合端点与三级授权(server、工具、参数) 多 target 聚合、CEL 工具级、ExtMCP 参数级(实测) 多 server 前缀聚合、Key / 团队 / 组织 / 用户 × 服务器 / 工具;无参数级 聚合模式(listener)、工具 ACL;无参数级 托管 + 转换;工具级需插件 访问控制;粒度未核
逐跳换发、用户中心登录桥、每跳一个受众 RFC 8693 换发实测;RFC 9728 元数据代发 RFC 8693 与 ID-JAG(文档取证);元数据代发未取证 消费者身份透传;无换发 无换发(提案) 身份转发;换发未取证
每 Key 预算与余量、逐次成本记录 每 Key 美元 / Token 滚动预算、管理 API 查余量、价目目录 按 Key / 团队 / 组织预算与重置、spend 日志 Token 限流;美元预算未取证 Token 限流与配额(Redis) Key 预算、成本日志
别名与同模型跨厂商故障转移 虚拟模型优先级组 + 健康驱逐 + 重试 模型组回退、冷却、重试 ai-proxy-advanced 回退 ai-load-balancer、fallback 配置化回退
客户云上单开与属地化离线包 单二进制 + 可选 PostgreSQL Python + Postgres + Redis 每节点许可,离线激活 Envoy + Istio + Nacos / Redis Node + 控制面组件;托管版不可用
与存量南北向(APISIX、Kong、ingress)契合 串联在后,不重叠 串联在后 存量升级 重叠 串联在后
Skill 中心 自研,网关提供路由与 Key 校验 自研 自研 HiMarket(独立系统) 自研
A2A(低优先级) 原生 A2A 代理(v1.95 起) ai-a2a-proxy(3.14) 半成品 未取证

5. 总拥有成本与风险

agentgateway Higress LiteLLM Kong OSS(存量) Kong 企业版 Portkey 开源网关
许可与商业模式 Apache-2.0;无企业版锁定;solo.io 可选商业支持 Apache-2.0;阿里云 AI 网关商业版 MIT 主体 + 企业目录(SSO、审计等需许可);按席位或用量的企业版 Apache-2.0 按节点或请求订阅(价格未取证);Konnect MIT;托管版为 Palo Alto Networks 产品
运维栈与团队技能 Rust 二进制、YAML / CRD;排障需 Rust 栈 Envoy、Istio、Wasm、Nacos、Redis Python、Postgres、Redis;Python 团队零摩擦 OpenResty;公司已在运维 同 OSS + 许可与升级 Node;停更后无人修
自研工作量(相对公司版 27.5 人周) 基线 加 Wasm 插件(工具级 / 参数级授权、元数据代发、换发)约 +4 人周 管理中心可复用其 UI 与 Key 服务,约 −2 人周;参数级策略与审批回执要写在 Python 钩子里,约 +2 人周;私有化打包 +1 人周 不适用(无 MCP) 采购与升级 +2 人周;参数级与换发仍需自建 不适用
供应商与存续风险 年轻项目;用 IR 解耦对冲 单一公司主导(Top3 59%) 单一公司;社区体量大;性能与 issue 负债 低速维护 锁定与涨价 已被收购、OSS 冻结
数据与合规 自持 自持 自持 自持 数据面自持,Konnect 境外 SaaS(中国区未取证) 托管版境外
迁移退路 IR 可编译到 Envoy AI Gateway 同上 配置进 git,避免治理逻辑写进回调

6. 选型结论

决策:AI 策略执行点主选 agentgateway;南北向沿用 APISIX、Kong OSS 3.9、ingress-nginx 与 ALB + WAF;LiteLLM 为条件备选;Higress 与 Portkey 不引入;不采购 Kong AI Gateway 企业版。状态:建议(待评审)。

组合形态

flowchart LR
    A[使用方:Claude Code · Codex · Work 工具 · 业务服务 · 客户应用] --> B[南北向存量:DNS → WAF → ALB → APISIX / Kong OSS / ingress]
    B --> C[AI 策略执行点:agentgateway<br/>LLM 网关 · MCP 网关 · A2A 网关]
    C --> D[模型厂商 · 自托管模型]
    C --> E[公司统一 MCP server]
    C -. 条件备选:长尾厂商或先拿计量 .-> F[LiteLLM 接入适配层<br/>只接模型流量 · 不接 MCP 与外部]
    F --> D
    C --> G[Skill 中心(自研)]

决策依据

  1. 硬门槛淘汰 Portkey(停更)与 Kong OSS(无 MCP);Kong 企业版与 Higress 都要额外付出(许可与升级,或 Wasm 插件)却仍到不了参数级授权与逐跳换发。
  2. 剩下的 agentgateway 与 LiteLLM,差距在公司需求的 P0 项上:MCP 参数级策略与网关侧执行钩子、私有化体积、性能形态。LiteLLM 的强项(厂商覆盖、预算、管理面)agentgateway 也具备或可由自研管理中心补齐。
  3. 公司已有 new-api,说明"模型代理"这一层的需求已经被满足过一次;下一步要解决的是身份、授权、换发与多环境交付,这是 agentgateway 的定位。

LiteLLM 的启用条件(同时满足才启用,且只作为适配层):出现 agentgateway 不支持且业务必需的长尾厂商,或试点前两周内必须先拿到计量与预算;部署在 agentgateway 之后,只接模型流量;配置进 git,不在回调里写治理逻辑;不接 MCP、不接外部客户流量。

复评触发条件

  1. LiteLLM 的 Rust 网关接管全部治理路径并提供参数级策略与网关侧执行钩子。
  2. 公司决定采购 Kong AI Gateway 企业版并把南北向统一升级到 3.14 以上。
  3. Portkey 开源仓库恢复维护,且有中国区可用的控制面。
  4. Higress 的触发条件沿用 06 §4(南北向统一到 Envoy、Skill 与管理面不自研、接受 Wasm 插件)。
  5. agentgateway 出现治理或维护风险。

7. 与原报告及 06 的关系

产品 原报告 9 维(文档判断) 本文 13 维(公司需求) 变化原因
agentgateway 8.5 8.76 POC 实测与需求权重(见 06
Higress 8.7 6.36 06:Skill 与管理面转为自研、南北向不换、MCP 治理实测
LiteLLM 7.7 8.28 模型侧与预算权重上调;MCP 网关 2026 年新增权限、OAuth、换发、自省(文档取证);性能与私有化仍是扣分项
Kong OSS 5.7 4.68 公司需求里 MCP 治理权重 15%,OSS 为 0
Kong 企业版 未打分 6.74 首次纳入:3.12 起 ai-mcp-proxy、3.14 起 ai-a2a-proxy;许可与升级成本另计
Portkey 未打分(停更出局) 7.08(对照) 2026-03 全量开源后能力面完整,但收购后停更,硬门槛不过

原报告的结论四("星数不等于可用")与四条尽调清单在本文继续成立:Portkey 与 Kong OSS 都是高星但不可用的实例。


附录 A · 评分明细与复算

评分与热力图由 diagrams/gen_benchmark_score.py 生成:六列分数与权重在脚本顶部,另含"模型侧口径"权重;运行即输出 Markdown 表、两组总分与 diagrams/benchmark-heatmap.svg。评审时建议先对 §3.2 的每一格给异议,再看总分。

附录 B · 证据清单(2026-09-14 查阅)

  • GitHub API:Portkey-AI/gateway(star 12,983,最近推送 2026-05-25,MIT);BerriAI/litellm(star 58,653,最近推送 2026-09-14,NOASSERTION);Kong/kong 发布列表(3.9.3,2026-06-17)。原报告 2026-09-04 的硬数据用于 agentgateway、Higress、Kong OSS 的 star 与提交统计。
  • Palo Alto Networks 新闻稿:宣布收购 Portkey(2026-04-30)与完成收购(2026-05-29);FY2026 年报披露对价 1.17 亿美元;Portkey 全量开源公告(2026-03-24)。
  • LiteLLM 发布说明 v1.96.0–v1.100.0;LiteLLM MCP 网关文档(权限、OAuth、DCR、RFC 8693 与 ID-JAG、透传、前缀、OpenAPI 转 MCP);虚拟 Key 与预算文档。
  • Kong 插件文档:AI Proxy(v3.6+,厂商与路由类型)、AI MCP Proxy(企业版,3.12+,四种模式,3.13 起工具 ACL)、AI A2A Proxy(企业版,3.14+)、AI Proxy Advanced(企业版);Kong AI Gateway 3.14 说明。
  • Portkey 仓库 README(1,600 多模型、50 多种守卫、MCP 网关、部署方式、Gateway 2.0 预发布)。
  • 原报告第 02 章硬数据、第 04 章"四款高星产品为什么出局"、第 05 章 LiteLLM 档案、第 09 章 POC、第 11 章需求评估;06-选型复评报告.md04-现状盘点与证据索引.md(湖仓:Kong 镜像分布,无 LiteLLM / Portkey / Higress 镜像)。