概述
智能路由会根据请求复杂度,从配置的模型池中自动选择模型。在系统 API 中,路由表现为一条设置了smart_routing: true 的 API Key 记录;创建、更新、启停、显示 Key 和删除操作都复用普通 Key 的 /api/token/ 接口。
存储的层级对象还包含
reasoning。当前控制台会将它设置为与 simple 相同的模型,以保持兼容。
读取当前预设
预设模型 ID 属于部署配置。请从/api/status 动态读取,不要从截图复制模型名称:
auto 未出现在路由别名列表中,第一个检查会终止流程。
选择一个预设并补齐兼容字段:
.data.smart_routing_excluded_models 进行不区分大小写的比较;不能选择被排除的模型。
创建智能路由 Key
exclude_smart_routing=false 才能定位路由记录:
更新模型池
先读取当前记录,再修改解码后的层级配置。更新请求体必须保留其他全部可变字段。显示并使用路由 Key
model 设置为 auto:
路由统计
读取所有智能路由 Key 的汇总统计:requests、actual_quota、saved_quota、带有 baseline 和 actual 的 daily 明细、tier_dist 以及 trial_start_ts。
试用期和服务费比例也应从 /api/status 动态读取:
使用限制
- 请求使用 OpenAI 兼容的
/v1/chat/completions格式。 - 路由到 Claude 模型时使用 OpenAI 兼容模式,部分 Claude 原生功能可能不可用。
- 切换目标模型可能导致供应商侧提示词缓存无法复用。
- 生产环境轮换路由凭证时,应先通过状态接口停用旧路由,再执行删除。