先了解这件事
AI 综述
Respan发布用Rust编写的开源AI网关,以一个精简内核加插件的方式,替代此前围绕LiteLLM构建的10万多行封装代码。报道称,转折点是2026年1月一次常规LiteLLM升级引发间歇性连接失败,回滚后原因仍未查明,此后团队不再直接升级LiteLLM。新网关借鉴Nginx思路,把模型供应商、路由、MCP工具、实时语音和安全控制拆为插件,其中Mistral供应商插件仅22行代码;自定义插件需编译进网关二进制,并按注册顺序执行,缓存若排在安全检查之前可能绕过检查。网关目前仍为pre-alpha,可从GitHub下载预构建二进制运行。
AI 根据公开报道生成
最新进展 · 正式报道
Respan 发布 Rust 开源 AI 网关，替代两年 LiteLLM 封装代码事件进展
1 个已确认进展
- 来源：The New Stack
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月21日
The New Stack
Respan 发布 Rust 开源 AI 网关，替代两年 LiteLLM 封装代码
Respan 发布用 Rust 编写的开源 AI 网关，用一个精简内核加插件替代此前围绕 LiteLLM 构建的 10 万多行封装代码。转折点是 2026 年 1 月一次常规 LiteLLM 升级引发间歇性连接失败，回滚后原因仍未查明，此后团队不再直接升级 LiteLLM。新网关借鉴 Nginx 思路，把模型供应商、路由、MCP 工具、实时语音和安全控制拆为插件，Mistral 供应商插件仅 22 行代码；自定义插件需编译进网关二进制，且按注册顺序执行，缓存若排在安全检查之前可能绕过检查。网关目前仍为 pre-alpha，可从 GitHub 下载预构建二进制运行。