智能路由
智能路由是 Routic 的一种模型调用方式。你不需要指定具体模型名,而是告诉 Routic 你需要什么能力,由 Routic 自动选择该能力下当前最优的模型。
为什么需要智能路由
| 场景 | 标准模型名 | 智能路由名 |
|---|---|---|
| 模型上下线 | 代码里写死了模型名,下线后调用失败 | Routic 自动切换到替代模型,调用不受影响 |
| 新模型上线 | 需要改代码才能用上新模型 | 自动获得新模型的能力提升 |
| 多供应商容灾 | 单供应商故障时请求全部失败 | Routic 自动降级到其他供应商的同类模型 |
简单说:标准模型名给你精确控制,智能路由名给你自动优化。
可用的路由名
| 路由名 | 能力 | 路由策略 | 当前涵盖的模型 |
|---|---|---|---|
auto/reasoning | 复杂推理、数学、逻辑分析 | 优先选择推理能力最强的模型 | deepseek-r1、qwq-32b 等 |
auto/chat | 日常对话、摘要、内容生成 | 优先选择性价比最高的模型 | deepseek-v3 系列等 |
随着模型目录扩充,每个路由名涵盖的模型会持续更新,无需你改代码。
使用方式
把 model 参数从标准模型名换成路由名即可,请求格式完全一样:
curl -X POST "https://api.routic.ai/v1/chat/completions" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer sk-xxxxxxxx" \
-d '{
"model": "auto/reasoning",
"messages": [
{ "role": "user", "content": "分析这段代码的时间复杂度并给出优化建议。" }
]
}'
Python(OpenAI SDK)
from openai import OpenAI
client = OpenAI(
base_url="https://api.routic.ai/v1",
api_key="sk-xxxxxxxx",
)
# 推理任务 → 自动选择最强推理模型
response = client.chat.completions.create(
model="auto/reasoning",
messages=[{"role": "user", "content": "证明 √2 是无理数。"}],
)
# 日常对话 → 自动选择性价比最高的模型
response = client.chat.completions.create(
model="auto/chat",
messages=[{"role": "user", "content": "帮我写一封会议邀请邮件。"}],
)
路由名 vs 标准模型名
| 维度 | 标准模型名 | 智能路由名 |
|---|---|---|
| 调用方式 | "model": "deepseek-r1" | "model": "auto/reasoning" |
| 可预测性 | 始终调用指定模型 | Routic 自动选择最优模型 |
| 适合场景 | 需要可复现的结果、对特定模型有依赖 | 对结果没有模型级别的要求、追求稳定性和性价比 |
| 容灾 | 无——指定模型不可用时报错 | 自动降级到同类可用模型 |
| 响应中的模型名 | response.model 返回你指定的名字 | response.model 返回实际调用的模型名 |
最佳实践
- 生产环境推荐用智能路由名——自动容灾,模型上下线不中断服务。
- 需要可复现结果时用标准模型名——比如自动化测试、基准评测。
- 可以先试用智能路由名,不满意再切到标准模型名——两种方式随时切换,无需改代码结构。
- 通过
response.model查看实际调用了哪个模型——智能路由的响应会返回底层模型名,方便你追踪。