官方 API 直连
OpenAI、Anthropic、Google 等官方端点,请求原样转发,不做多余改写。
每条线路由地址、凭证、模型清单、分组与权重组成。客户端只认逻辑模型名, 真实密钥留在网关,永远不出服务端。
OpenAI、Anthropic、Google 等官方端点,请求原样转发,不做多余改写。
任何实现了 /v1/chat/completions 的服务,填地址与密钥即可作为一条线路接入。
需要会话鉴权或额度扣减的服务,由适配器包装成标准协议,客户端无感。
从头部云厂商到前沿 AI 团队,各行业团队都在生产环境中运行我们的网关。




OpenAI SDK、LobeChat、Dify、Claude Code 都不用改代码。鉴权只用本站签发的 sk- 令牌。
from openai import OpenAI
client = OpenAI(
api_key="sk-your-token",
base_url="https://your-gateway.com/v1",
)
stream = client.chat.completions.create(
model="gpt-4o",
messages=[{"role": "user", "content": "你好"}],
stream=True,
)
for chunk in stream:
print(chunk.choices[0].delta.content or "", end="")Anthropic 协议示例见 接入文档。
口径与行业通用方案对齐,账本与运行态余额分离,服务异常也不会丢账。
三层倍率计费
(输入 + 输出×补全倍率)× 模型倍率 × 分组倍率,1 USD = 500,000 quota。
预扣后结算
按 max_tokens 冻结额度,流结束后按真实 usage 补扣或退还。
自动切换
连续失败进入冷却,半开探测恢复;失败请求自动切到健康线路。
成本可归因
每条日志记录线路、路由原因、倍率与 token 明细,可逐笔对账。