为什么盯路由层而不是赠额数字

API 聚合网关(也常被叫作中转站)的商业模式是:把多家模型厂商的 API 统一成一个 OpenAI 兼容端点,按 token 计费或按次计费。为了拉新,它们通常会提供注册试用金、每日免费模型池、以及某些上游厂商的限时免费通道。

问题在于,这些免费额度是碎片化的:不同上游、不同模型、不同速率限制、不同有效期。如果你只把网关当成「一个 Key 换一堆模型」,赠额用完就断供;但如果你把它当成路由器,就能让同一个请求在多个免费上游之间流动,把碎片拼成连续供给。

2026 年主流聚合网关(如 OpenRouter、各类自建 One-API/New-API 中转站)普遍支持三样东西:模型别名(alias)、供应商路由(provider routing)、故障转移(fallback)。这三样就是本文的操作核心。

操作步骤

第一步:盘点网关的免费层,而不是只看余额

登录网关控制台,找到三类资源:

  1. 免费模型池:通常以 :free 后缀或单独分组标注,例如带 :free 的模型 ID。这类模型一般有每分钟请求数(RPM)和每日 token 上限,额度「通常」在几十万到数百万 token 量级,具体以控制台为准。
  2. 注册试用金:一次性赠额,有有效期,通常 30 天内消耗。
  3. 上游厂商的免费通道:某些网关会代理 Groq、Cerebras 等提供免费调用层的厂商,这类通道的免费额度由上游决定。

把这三类分别记下来,形成一张「免费资源清单」。不要急着用,先做第二步。

第二步:为同一能力建模型别名

在网关的「模型」或「路由」设置里,创建一个别名,例如 chat-default,然后把多个免费模型挂到这个别名下,按优先级排序:

  • 优先级 1:免费模型池里质量最高的模型
  • 优先级 2:试用金可覆盖的付费模型(仅在免费池限流时使用)
  • 优先级 3:上游免费通道模型

这样你的应用代码里只写 chat-default,网关负责分发。当优先级 1 触发 RPM 限制时,请求自动落到优先级 2。

第三步:打开故障转移与重试

在别名配置里启用 fallback:当某个上游返回 429(限流)、5xx 或超时,网关自动切换到下一个上游。把重试次数设为 2–3 次,退避时间设为指数退避。

这一步是把「碎片额度」变成「连续供给」的关键:单看每个免费模型都有 RPM 限制,但多个模型叠加后,你实际可用的并发和总量会显著提升。

第四步:在客户端做轻量轮换

即使网关有故障转移,客户端也应做一层简单轮换:

  • 维护一个模型别名列表(如 chat-default、chat-fast、chat-cheap),按任务类型选择。
  • 对批量任务(如摘要、分类),优先走免费池别名;对延迟敏感任务,走上游免费通道别名。
  • 记录每次请求命中的上游(网关通常返回响应头或日志字段),用于后续调优优先级。

第五步:用日志反推额度消耗

大多数网关提供请求日志和用量统计。每周看一次:哪些别名消耗最快、哪些上游 429 最多、试用金还剩多少。据此调整优先级顺序,把即将过期的试用金前置消耗。

注意事项

  • 免费模型池通常有每日上限,且不保证 SLA。不要把生产关键路径完全压在免费池上。
  • 别名映射不是无限叠加:网关对同一别名的上游数量可能有限制,且部分网关对免费模型禁用故障转移。配置前先看控制台说明。
  • 合规与条款:部分网关禁止用免费额度做自动化批量抓取或转售。使用前阅读服务条款。
  • 数据留存:中转站会经手你的请求内容,敏感数据不要走不明来源的网关。优先选有隐私政策、支持自建或开源方案(如 One-API、New-API)的网关。
  • 额度数字以控制台为准:本文所有「通常/约」表述都不构成承诺,各平台政策随时调整。

适用场景

  • 个人开发者做原型验证,需要低成本跑通多模型对比。
  • 小团队内部工具(客服摘要、文档问答),请求量中等、可容忍偶发限流。
  • 需要多模型冗余的批处理任务,例如内容分类、翻译初稿。

不适合:对延迟和稳定性有硬性要求的生产系统,以及涉及敏感数据的场景。

小结

聚合网关的免费额度不是「一个数字」,而是「一组路由规则」。把模型别名、供应商优先级、故障转移三层配好,免费额度才能从一次性赠额变成可迁移、可轮换的 Token 供给线。