供应商级联与智能路由 — 一家不够自动换下一家
为什么需要
只用一家模型的问题:
- 429 限流——DeepSeek 免费额度用完,或者 OpenAI 免费 API 被限制
- 供应商宕机——Google Gemini 临时维护,你连不上
- 单一模型能力缺口——某些任务特定模型效果好(代码 Claude、推理 o3),某些通用模型够用
级联路由就是给这些问题上保险。
工作方式
zeroai providers
openai (首选) · anthropic (备选1) · qwen (备选2) · ollama (本地兜底)
智能体执行任务时:
- 优先调用首选供应商
- 如果首选返回 429 / 5xx / 超时 → 自动切备选 1
- 备选 1 也失败 → 切备选 2
- 最后兜底 Ollama(本地模型,永远不挂但能力有限)
全部失败才报告。
手动指定
某些场景你想强制用某家模型(比如代码任务指定 Claude Opus),可以在指令里带模型标签,具体语法因供应商配置而异。没有标签时智能体自动选。
按任务智能路由
更高级的用法:根据任务类型自动挑模型。上游 ZeroClaw 的 trait-driven 架构让这件事很容易实现——Provider trait 可以在中间件层做路由逻辑。ZeroAI 下游版本支持的路由策略包括:
- 按费用——优先选最便宜的能完成的模型
- 按延迟——优先选响应最快的
- 按能力——推理任务选 o3、代码任务选 Claude、通用任务选 GPT-4o-mini
资料来源:推广站 zeroai.wrwq.fun、ZeroClaw Guides