智能路由

智能路由是 Routic 的一种模型调用方式。你不需要指定具体模型名,而是告诉 Routic 你需要什么能力,由 Routic 自动选择该能力下当前最优的模型。

为什么需要智能路由

场景标准模型名智能路由名
模型上下线代码里写死了模型名,下线后调用失败Routic 自动切换到替代模型,调用不受影响
新模型上线需要改代码才能用上新模型自动获得新模型的能力提升
多供应商容灾单供应商故障时请求全部失败Routic 自动降级到其他供应商的同类模型

简单说:标准模型名给你精确控制,智能路由名给你自动优化。

可用的路由名

路由名能力路由策略当前涵盖的模型
auto/reasoning复杂推理、数学、逻辑分析优先选择推理能力最强的模型deepseek-r1、qwq-32b 等
auto/chat日常对话、摘要、内容生成优先选择性价比最高的模型deepseek-v3 系列等

随着模型目录扩充,每个路由名涵盖的模型会持续更新,无需你改代码。

使用方式

model 参数从标准模型名换成路由名即可,请求格式完全一样:

curl -X POST "https://api.routic.ai/v1/chat/completions" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-xxxxxxxx" \
  -d '{
    "model": "auto/reasoning",
    "messages": [
      { "role": "user", "content": "分析这段代码的时间复杂度并给出优化建议。" }
    ]
  }'

Python(OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.routic.ai/v1",
    api_key="sk-xxxxxxxx",
)

# 推理任务 → 自动选择最强推理模型
response = client.chat.completions.create(
    model="auto/reasoning",
    messages=[{"role": "user", "content": "证明 √2 是无理数。"}],
)

# 日常对话 → 自动选择性价比最高的模型
response = client.chat.completions.create(
    model="auto/chat",
    messages=[{"role": "user", "content": "帮我写一封会议邀请邮件。"}],
)

路由名 vs 标准模型名

维度标准模型名智能路由名
调用方式"model": "deepseek-r1""model": "auto/reasoning"
可预测性始终调用指定模型Routic 自动选择最优模型
适合场景需要可复现的结果、对特定模型有依赖对结果没有模型级别的要求、追求稳定性和性价比
容灾无——指定模型不可用时报错自动降级到同类可用模型
响应中的模型名response.model 返回你指定的名字response.model 返回实际调用的模型名

最佳实践

  1. 生产环境推荐用智能路由名——自动容灾,模型上下线不中断服务。
  2. 需要可复现结果时用标准模型名——比如自动化测试、基准评测。
  3. 可以先试用智能路由名,不满意再切到标准模型名——两种方式随时切换,无需改代码结构。
  4. 通过 response.model 查看实际调用了哪个模型——智能路由的响应会返回底层模型名,方便你追踪。

相关文档