Skip to main content

介绍

Smart Routing 是一项智能模型路由能力,能够根据输入任务的复杂程度,自动将请求分配至最合适的模型。控制台将任务划分为 Simple(简单)、Complex(复杂)和 Ultra(旗舰)三个等级,在保证输出质量的同时降低 API 调用成本,其中 Ultra 为价格基准。
通过系统 API 配置时,控制台中的 Ultra 对应 smart_route_tiers.supersmart_route_tiers 必须作为 JSON 字符串发送。完整创建、更新和统计流程请参阅智能路由 API

应用文档

使用约束

缓存能力约束 提示词缓存通常按供应商和模型隔离。若智能路由将后续请求分配到不同模型,该请求无法复用前一个模型的缓存;继续路由到同一模型时,是否命中缓存仍取决于对应供应商的规则。 请求体结构约束 Smart Routing 使用 /v1/chat/completions 端点。当路由目标为 Claude 系列模型时,只能通过 OpenAI 兼容模式工作。兼容后的特性约束请参考 Anthropic 官方文档 OpenAI SDK compatibility

使用指南

  1. 创建路由
Smart Routing 1
  1. 为路由节点创建密钥
Smart Routing 2
  1. 为密钥选择 Default 分组
Smart Routing 3
  1. 分别为 simple、complex、ultra 三个级别设置对应模型
Smart Routing 4
  1. 配置并通过智能网关进行路由
  • 通讯端点:https://api.mixroute.ai/v1/chat/completions
  • 模型名称:auto
  • 密钥:使用路由的密钥