Respan团队2026年10月20日在Hacker News发布开源Rust AI网关Respan Gateway，代码托管于GitHub，采用MIT或Apache-2.0许可。该网关将提供商、协议、模态和网关功能都设计为插件，核心只负责事件分发，目标是让团队按需组装AI基础设施，而不必在单一网关中堆叠大量功能。
据Hacker News上的发布信息，Respan Gateway的插件范围包括OpenAI、Anthropic、Gemini等提供商，chat、实时语音、MCP等协议，图像、视频等模态，以及智能路由、故障回退、PII脱敏等可靠性或安全功能。添加提供商只需编写一个短文件，Mistral的适配文件为22行；每个特殊行为也作为插件单独测试，例如Groq将token用量放在独立字段中的处理。Respan称，这种结构受到Nginx启发，核心保持很小，开发者增加插件时无需改动核心。
在功能上，该网关不仅支持通过OpenAI SDK调用Claude或Gemini模型，还会处理工具、图像和推理协议。基于OpenAI Realtime API的应用可以通过网关使用Gemini Live，但并非所有功能都能转换；简单聊天应用可以使用网关中配置的MCP工具，而无需自行实现MCP。网关将请求解析为共享结构，当客户端与提供商使用相同API时，会保留提供商特有字段的原始格式，以便写回而不是丢弃。
其处理流程是：适配器将每个HTTP或WebSocket连接交给第一个识别它的客户端格式，该格式把请求暴露为类型化输入输出事件的双向流；核心按注册顺序运行插件，插件可选择提供商、过滤或包装任一流、发起额外调用、返回响应或拒绝请求；随后由提供商格式打开上游连接。若客户端与提供商格式相同且没有插件修改负载，原始字节和协议字段可原样透传；格式不同时，则通过消息、工具调用、结果、流和用量的共享类型进行转换。该流模型可表示一次性HTTP请求和长连接双向会话。
Respan此前自2024年起基于LiteLLM构建网关，目前为数千个组织提供服务。不同组织需要不同的API密钥设置、路由和限制，团队不断包装LiteLLM，包装代码一度超过10万行。2026年1月，一次例行的LiteLLM升级造成间歇性连接错误，团队回滚后仍未查明原因，此后不再直接升级LiteLLM，而是手动回移上游修复。这些经历促使团队重新设计网关。
目前Respan Gateway处于预alpha阶段，用户无需使用Respan托管平台，可从源码构建、添加提供商密钥，并在支持的客户端中替换基础URL，继续使用客户端已有的API。Respan通过托管平台盈利，该平台运行网关并提供原生可观测性、评估和统一计费。团队希望开发者将路由、工具、过滤、可观测性或安全能力作为插件加入生态。