🔌 OmniRoute：237家AI网关聚合 95% token节省 24+工具即插即用

OmniRoute 是开源AI网关，聚合237家AI服务商（90+免费）到本地端点。RTK+Caveman双层压缩节省15-95% token，支持Claude/Cursor/Copilot等24+工具即插即用，4级自动故障转移，Dashboard实时显示免费配额余量，MIT协议。

🎤 引言

用 AI 写代码最扫兴的瞬间是什么？Cursor 写着写着突然报"quota 用完了"，切到 Claude Code，Claude Code 也说"本月限额已达"。去开一个 DeepSeek API，账号注册又要手机号；去开 Groq，GPU 服务器不稳定。这个时候 OmniRoute 说：我来。

这个开源项目做的事情一句话概括：一个本地代理端点，聚合 237 家 AI 服务商，90+ 提供免费 tier，配合 4 级自动故障转移和 token 压缩，让你永远不因为 API 限额中断 coding。GitHub 12.8k Stars、1.87k Forks、MIT 协议，背后维护团队非常活跃，支持 Docker / npm / Electron 多平台。

⭐ 核心功能

🌐 237 家 AI 服务商聚合

OmniRoute 把全球主流 AI 服务商（OpenAI、Anthropic、Google、DeepSeek、Qwen、MiniMax、Groq、SiliconFlow……）的免费和付费 tier 聚合到一个端点，Dashboard 上实时显示每个 provider 的已用/剩余配额。官方声称~1.6B 免费 token / 月（稳定值），首月叠加注册赠送可达 ~2.1B。Dashboard 有 /dashboard/free-tiers 页面逐模型显示实时用量。

11 家永久免费无限用的 provider（无需注册信用卡）：Kiro、Qoder、Pollinations、LongCat 等。

⚡ RTK + Caveman Token 压缩

OmniRoute 的压缩技术有两层：

RTK（Re-Tokenization Kit）：对工具输出（git diff、grep 日志、代码片段）做智能压缩，去冗余保留核心语义
Caveman：更深层的语义压缩，在保持上下文完整性的前提下裁剪 token 量

两者叠加平均节省 89% token（工具密集型会话），单个请求最高可达 15-95% 节省幅度。

🔄 4 级自动故障转移

OmniRoute 有完整的 fallback 链，毫秒级切换，零停机：

Tier 1: Subscription（Claude Code / Codex / Copilot 配额）
    ↓ 配额用完
Tier 2: API Key（DeepSeek / Groq / xAI 等）
    ↓ 预算超支
Tier 3: Cheap（GLM $0.5 / MiniMax $0.2 等廉价模型）
    ↓ 再超支
Tier 4: Free（Kiro / Qoder / Pollinations 永久免费）
    ↓ 永远有兜底

你只需要把目标设成 auto，OmniRoute 根据 9 因子实时评分（健康度、配额、成本、延迟、成功率……）自动选最优 provider。

🛠 24+ 编程工具即插即用

OmniRoute 是一个标准的 OpenAI 兼容端点（/v1），只需要把任意 AI 工具的 base URL 指向 localhost:20128/v1，就能自动路由：

Claude Code、Codex CLI、Cursor IDE、Cline、Copilot、Antigravity
Gemini CLI、OpenAI 官方 SDK
任何支持 OpenAI API 兼容格式的工具

无需改代码，一行配置搞定。

🎛 17 种路由策略 + Auto-Combo

Auto-Combo 引擎根据 9 个因子给所有候选 provider 实时打分，OmniRoute 推荐 auto 模式，但也支持手动创建路由链：

策略	适用场景
`auto`	平衡优先（LKGP 粘性策略）
`auto/coding`	代码质量优先
`auto/fast`	延迟最低优先
`auto/cheap`	单 token 成本最低优先
`auto/offline`	配额/限流余量最大优先
`auto/smart`	质量优先 + 10% 探索新模型

还支持自定义 17 种路由策略（priority / weighted / round-robin / cost-optimized / context-relay / fusion……）。

🧩 MCP (95 工具) + A2A + Quota-Share

MCP 支持：已集成 95 个 MCP 工具，包括浏览器自动化、文件系统、数据库操作等
A2A 协议：多 agent 之间可以相互通信、协作
Quota-Share：同一个 upstream 账号（如一个 Codex Pro 账号多把 key）可以公平分配 5h/7d 配额，防止一把 key 烧完锁死全队
Guardrails + Evals：内置内容过滤和输出质量评估

🖥️ 部署方式

# Docker（一键）
docker run -p 20128:20128 diegosouzapw/omniroute

# npm
npm install -g omniroute
omniroute

# Electron 桌面版
# 下载对应平台的 .AppImage / .exe 即可

启动后 API 和 Dashboard 同时运行在 localhost:20128，Dashboard 上可以管理 provider、查看 free tier 配额、配置路由策略。

📥 安装与使用

一、连接免费 provider

打开 Dashboard (localhost:20128/dashboard)
进入 Providers 页面，从 90+ 免费 tier 中选择一个并登录（如 SiliconFlow、Kiro）
在 Keys 页面生成你的 OmniRoute API Key
把 AI 工具的 base URL 设为 http://localhost:20128/v1，填入 OmniRoute Key

二、配置 Cursor IDE

根据 YouTube 教程：

// Cursor Settings → Models → Advanced Settings
{
  "baseURL": "http://localhost:20128/v1",
  "apiKey": "omniroute_你的Key"
}

设置完 Cursor 就自动通过 OmniRoute 路由到免费或低成本 provider，再也不用担心单个 API 限额。

三、用 auto 模式自动选最优

# 告诉 OmniRoute 自动选（默认健康+低延迟+低成本）
export OPENAI_BASE_URL="http://localhost:20128/v1"
export OPENAI_API_KEY="omniroute_你的Key"
export MODEL="auto"

# 或指定策略
export MODEL="auto/cheap"   # 最低成本优先
export MODEL="auto/coding"  # 代码质量优先

四、Quirk：OmniRoute 在中国大陆

OmniRoute 的代理支持 TLS fingerprint 隐身，可绕过部分地区对 AI provider 的访问限制，但如果你主要目标是"访问被墙的 AI 服务"，建议先实测响应速度，部分 provider 在大陆连接可能不稳定。

🎯 适用场景

AI 编程爱好者：Cursor / Claude Code / Cline 多工具党，不想被单一 API 限额卡脖子
GitHub Copilot 订阅用完的开发者：有 Copilot 订阅但月度限额总不够，用 OmniRoute 把 DeepSeek / Groq / 免费 provider 加进来做 fallback
Token 预算紧张的独立开发者：Caveman 压缩平均省 89% token，同样的 API 预算可以用更久
AI 研究者：需要快速在多个模型之间做对比评测，Auto-Combo + 17 种路由策略可以精细控制实验
团队共享 AI 账号：Quota-Share 解决了一把 key 被一个人刷爆其他人全锁的问题

🔍 对比 / 替代方案

工具	免费 tier	Provider 数	Token 压缩	适合场景
OmniRoute	90+（含11永久免费）	237	RTK+Caveman（-89%）	多工具 + 省钱
One API	中转付费	有限	无	简单中转
LLMproxy	有限	有限	无	轻量代理
Free AI Buddy	少量	少	无	简单场景
直接用各厂商 SDK	各不相同	1	无	单 provider

最大差异化：OmniRoute 是目前 GitHub 上聚合 provider 最多、压缩技术最成熟、路由策略最丰富的开源 AI 网关解决方案。21,000+ 测试用例、266 个 open issues（维护活跃）、完整的 Dashboard 可视化，这些都不是小众项目能比的。

⚠️ 注意事项

中文文档：官方有 42+ 语言文档（含简体中文），中文圈教程也在增加，但高级路由配置仍以英文文档为主
本地代理依赖：OmniRoute 跑在你本机（Docker 或 npm），意味着你的开发机需要能访问目标 AI provider 的网络；如果开发机在防火墙后面，需要自己解决网络问题
Token 压缩有取舍：Caveman 压缩会修改原始工具输出，对精确代码对比场景（如 review diff）可能有语义损失，重要输出建议关闭压缩
Dashboard 默认端口 20128：部分企业网络可能封锁这个非标准端口，可以配置成 80/443
266 个 open issues：项目维护活跃但问题量大，部分 issue 可能是 breaking change，使用前建议固定版本号而非跟踪 main 分支
免费 tier 的稳定性：永久免费 provider（如 Kiro、Pollinations）通常是没有用量上限，但速度和稳定性不如付费 tier，对延迟敏感的生产场景建议只用做兜底
TLS Stealth：代理支持 TLS 指纹伪装，但各 AI provider 反爬策略不断升级，长期使用建议保持 OmniRoute 版本更新

✅ 总结

OmniRoute 是目前最完整的开源 AI 网关方案——237 家 provider、90+ 免费 tier、RTK+Caveman 双层 token 压缩（平均省 89%）、17 种路由策略、4 级自动故障转移，加上 MCP + A2A + Quota-Share，生产级功能一个不缺。12.8k Stars 和持续高频更新说明了社区认可度。

最大卖点：auto 模式 + 4 级 fallback 让"永远不因 API 限额断线"变成现实，加上 Caveman 压缩，同等预算下可用 token 量翻倍。

缺点：本地代理架构意味着要自己维护；压缩技术对精确场景有取舍；中国大陆网络连接部分 provider 可能不稳定。

适合谁：多工具党、Token 预算紧张的独立开发者、AI 研究者、想用免费 AI 但不想折腾多个账号的人。不适合谁：只想用单个 API 且预算充足的人、对中文客户支持有强需求的企业、在严格防火墙内无法运行本地代理的环境。

推荐指数：⭐⭐⭐⭐（4/5），功能和规模在开源 AI 网关里无出其右，活跃维护加分。

项目地址：https://github.com/diegosouzapw/OmniRoute
官网：https://omniroute.online
协议：MIT