Skip to main content

概述

智能路由会根据请求复杂度,从配置的模型池中自动选择模型。在系统 API 中,路由表现为一条设置了 smart_routing: true 的 API Key 记录;创建、更新、启停、显示 Key 和删除操作都复用普通 Key 的 /api/token/ 接口。 存储的层级对象还包含 reasoning。当前控制台会将它设置为与 simple 相同的模型,以保持兼容。
smart_route_tiers 是经过 JSON 编码的字符串,不能直接发送为嵌套 JSON 对象。

读取当前预设

预设模型 ID 属于部署配置。请从 /api/status 动态读取,不要从截图复制模型名称:
如果智能路由未启用,或 auto 未出现在路由别名列表中,第一个检查会终止流程。 选择一个预设并补齐兼容字段:
创建前应确认三个有效层级都设置了模型,并且模型对所选分组可用。还要与 .data.smart_routing_excluded_models 进行不区分大小写的比较;不能选择被排除的模型。

创建智能路由 Key

创建响应不返回 ID。搜索时设置 exclude_smart_routing=false 才能定位路由记录:

更新模型池

先读取当前记录,再修改解码后的层级配置。更新请求体必须保留其他全部可变字段。
保存后的配置会对后续路由请求生效。

显示并使用路由 Key

调用推理端点时,将 model 设置为 auto
不要把系统访问令牌发送到推理端点。

路由统计

读取所有智能路由 Key 的汇总统计:
按 Key 和 Unix 秒级时间范围筛选:
响应包含 requestsactual_quotasaved_quota、带有 baselineactualdaily 明细、tier_dist 以及 trial_start_ts 试用期和服务费比例也应从 /api/status 动态读取:

使用限制

  • 请求使用 OpenAI 兼容的 /v1/chat/completions 格式。
  • 路由到 Claude 模型时使用 OpenAI 兼容模式,部分 Claude 原生功能可能不可用。
  • 切换目标模型可能导致供应商侧提示词缓存无法复用。
  • 生产环境轮换路由凭证时,应先通过状态接口停用旧路由,再执行删除。
控制台操作流程和集成链接请参阅智能路由