Smart Router(大模型API免切换智能路由) v1.0.0 多模型聚合调度自动故障切换限速轮询与统一接口转发利器 介绍
免费大模型经常限流欠费且换 Key 繁琐？Smart Router 支持本地多模型聚合、智能限速轮询、自动故障降级与统一 API 单地址接入，AI开发必备！
主要功能
支持标准OpenAI格式统一API单入口、多平台免费与付费大模型聚合管理、共享额度智能轮询调度、精准RPM请求速率保护、毫秒级故障自动切换降级、多阶段自适应冷却自愈、Auto智能路由与同系分组隔离、可视化模型拖拽排序、最多20次深度重试保障。
版本优化与特色
100%完全开源且本地离线运行不泄密；一个统一API地址无缝调度所有大模型；遭遇限流欠费自动故障切换；支持灵活RPM限速与拖拽排序。
常见问题
Q1：在第三方客户端（如 NextChat 或沉浸式翻译）中如何配置使用 Smart Router？
A1：在客户端的 API 设置中，将接口类型选择为 OpenAI，API 地址（Base URL）填写为 Smart Router 本地地址（例如 http://127.0.0.1:端口/v1），API Key 填写您在 Smart Router 中设定的访问令牌，模型名称填写 auto 或您自定义的分组名即可。
Q2：为什么建议将免费模型的分组（Group）与 Auto 路由区分使用？
A2：不同厂商对同一开源模型（如 DeepSeek-V3）的命名格式可能略有差异，且不同大模型的能力边界不同。通过将同类型模型划入同一分组，可以确保发生故障回退时仍然在同一能力梯度的模型间无缝切换，避免生成格式异常。
Q3：添加免费模型 Key 时，速率限制（Rate Limit）该如何填写？
A3：大多数官方免费层级（如 Google AI Studio）通常限制为每分钟 15~20 次请求（RPM）。添加免费模型时建议填入 20；若为付费按量计费的官方 Key（无频率限制），可填入 -1 代表不限速。
Q4：Smart Router 会不会把用户填写的 API Key 上传到开发者服务器？
A4：绝对不会！Smart Router 是纯本地开源代理工具，所有配置文件与 Key 密钥均以本地文件形式加密保存在您的电脑硬盘中，所有网络请求均由本机直接与官方大模型服务器建立 TLS 通信，代码完全开源透明。
使用建议
专为大模型打造的开源免费 API 智能路由与负载均衡神器，单地址接入、故障无感切换、限速轮询保护，开发必备。
演示截图
下载地址
- 夸克网盘：https://pan.quark.cn/s/1e5e132ca6be
- 百度网盘：https://pan.baidu.com/s/1iTPrPPVl-PdpBDNLMQtdxw?pwd=x856 (提取码: x856)
- 迅雷云盘：https://pan.xunlei.com/s/VP1Et9ai-66Xase2DGaApryfA1?pwd=ag6r (提取码: ag6r)
