平台概念
模型 ID、供给渠道、路由与 fallback 的基本概念。
模型 ID
模型 ID 采用「开发者/模型名」格式,如 deepseek/deepseek-v4-pro、z-ai/glm-5.2。前缀是模型开发者(DeepSeek、智谱等),后半段是具体模型。完整在售列表见模型库,或调用 GET /v1/models 查看当前 Key 可用的模型。
同一个模型 ID 背后可能有多个供给渠道,平台会按延迟与可用性自动选择,调用方无感知。
供给渠道
| 渠道 | 说明 |
|---|---|
| 自营算力 | 平台自建国产加速卡集群,自主部署开源权重,供给与价格可控 |
| 官方接入 | 通过模型厂商官方或合作渠道供给 |
每个模型的渠道类型、实时可用率与延迟可在模型库详情页查看,数据来源见公开平台 API。
智能路由与 fallback
当某一渠道故障或限流时,网关自动切换到同模型的备用渠道。
也可以在请求级指定 fallbacks 备用模型列表:主模型请求失败(上游故障、超时、限流)时,网关自动用相同参数改请求备用模型,响应中的 model 字段标注实际使用的模型:
{
"model": "z-ai/glm-5.2",
"fallbacks": ["deepseek/deepseek-v4-pro"],
"messages": [{"role": "user", "content": "..."}]
}fallbacks 是 OpenAI 协议之外的扩展参数,按上面的形式直接放在请求体顶层即可;未识别扩展参数的 SDK 可用 extra_body 传入。
计费方式
按 token 用量计费(¥/百万 tokens),输入、输出、缓存读取分别计价;部分模型区分峰谷时段价格。详见计费说明。