LLM 网关对比:LiteLLM、Portkey、OpenRouter 与 OriginCoder
发布于 2026-11-11
LLM 网关(也叫 AI 网关)是夹在你的应用和模型厂商之间的一层服务。它用一套接口对接多个模型,通常还带有密钥管理、用量统计、路由和故障切换。本文从「它是哪一类东西」的层面对比四个常见选项,帮你先缩小范围,再去各家官网看细节。
利益声明:我们开发 OriginCoder,所以我们对它的描述是全文立场最不中立的部分。对其他几家,我们只写有把握的通用说法。功能和价格经常变化,决定前请查阅各项目的官方文档。本文内容截至 2026 年 11 月。
先想清楚你需要什么
- 一套接口对接多个厂商。 你是否希望用同一种请求格式调用 Claude、GPT 和 Gemini?
- 谁来运维。 你想自己运营网关,还是交给别人?
- 谁和谁结算。 你想要网关出一张账单,还是用自己在各厂商的账号和密钥?
- 管控能力。 是否需要按团队发 Key、设预算、看日志、做审计?
- 编程 Agent。 是否要接 Claude Code、Codex 这类工具?
四个选项一览
| LiteLLM | Portkey | OpenRouter | OriginCoder | |
|---|---|---|---|---|
| 它是什么 | 开源 SDK 与代理服务,自己部署 | 网关与管控平台,有开源网关,也有托管服务 | 托管的多模型聚合 API | 自带余额和订阅的托管网关 |
| 谁来运维 | 你 | 你(开源版)或 Portkey(托管版) | OpenRouter | OriginCoder |
| 用谁的厂商账号 | 你自己的,需自带厂商密钥 | 你自己的,需自带厂商密钥 | OpenRouter 的,你购买额度(是否支持自带密钥请查其文档) | OriginCoder 的,用美元付费 |
| 请求格式 | OpenAI 风格,对接多家厂商 | OpenAI 风格,对接多家厂商 | OpenAI 风格 | 支持 OpenAI、Anthropic、Gemini 格式 |
| 长处 | 完全可控、可定制 | 可观测性、护栏与治理类功能 | 一个 Key 背后模型选择很多 | 计费简单,对编程 Agent 接入友好 |
| 你要付出的主要成本 | 工程与运维时间 | 托管版的平台费用 | 通过额度按 token 付费 | 按 token 付费,或订阅 |
LiteLLM:自建,灵活
LiteLLM 是开源的。你可以把它当 Python 库用,也可以运行它的代理服务,给团队提供一个对接多家厂商的 OpenAI 兼容端点,带虚拟 Key、预算和花费统计。因为是你自己运行,数据流向和配置都由你掌控;代价是你要自己运维:部署、状态数据库、升级、监控和扩容都是你的事。适合已有基础设施运维能力、需要自定义路由或严格数据管控的团队。
Portkey:治理与可观测
Portkey 把自己定位为 AI 网关与管控平面。它提供可自己运行的开源网关,以及增加日志、护栏、提示词管理等功能的托管平台。适合在多个厂商之间重视可观测性和策略管理、且已有自己厂商账号的团队。哪些功能在开源网关里、哪些只在托管版,请以 Portkey 官方文档为准。
OpenRouter:一个 Key,很多模型
OpenRouter 是托管服务,用一套 OpenAI 风格的 API 和一个账号,提供来自众多厂商的大量模型。你购买额度,跨模型使用,并且它可以在同一模型的不同厂商之间做路由。搜「OpenRouter API」的人通常想要的就是这个:一个 Key、很多模型、不用分别注册各家厂商。适合实验、个人项目,以及想快速尝试多种模型的应用。
OriginCoder:偏重计费与编程 Agent
OriginCoder 是托管网关。它在一个端点上接受 OpenAI、Anthropic 和 Gemini 三种请求格式,以美元按量付费或订阅计费,记录逐请求的用量(含 token 数和费用),并提供一键导入 CC-Switch,方便 Claude Code、Codex 等工具接入。适合主要想用一个 Key、一份余额来跑编程 Agent 的开发者。它不是自建产品,也不能替代专门围绕治理功能打造的平台。当前各模型单价见模型价格页,接入方法见Claude Code 接入自定义 API 地址。
怎么选
- 所有东西必须留在你自己的基础设施里: 选自建网关,例如 LiteLLM,或 Portkey 的开源网关。
- 你已有厂商账号,想在上面加日志、预算和护栏: 选 LiteLLM 或 Portkey 这类管控平面。
- 想要一个 Key 背后很多模型、零部署: 选 OpenRouter 这类托管聚合服务,或 OriginCoder 这类托管网关。
- 主要用 Claude Code 或 Codex,想要简单计费: 选带编程 Agent 接入支持的托管网关,例如 OriginCoder。另见Claude Code 替代方案:官方订阅还是 API 网关。
无论选哪个,都先跑一小段真实业务,用你自己的流量对比成本、延迟和错误率,并向任何服务商问清楚你的提示词存在哪里、存多久。