ZenMux

ZenMux 是什么

ZenMux 是给需要调用多家模型厂商的团队用的网关。它把主流模型收在一个兼容 OpenAI 的 API 后面，负责路由以及模型不可用时的自动回退，并加上日志与监控，厂商还提到保险和幻觉相关的功能。

你可以用它做什么

• 通过一个接口调用多家厂商
• 路由请求并自动回退
• 记录请求并监控表现
• 减少每家供应商的集成工作
• 比较不同模型的成本

适合谁使用

• 使用多家供应商的开发团队
• 需要韧性的应用
• 想把模型接入统一起来的团队

需要留意什么

• 网关能看到每一条提示词与回复，要审查日志、留存以及数据存放位置
• 保险与幻觉功能是厂商的行话，要问清楚它们实际覆盖什么、边界在哪里
• 没有任何网关能保证模型不产出错误陈述，凡是重要的内容都要保留核实
• 你能构建什么仍然受上游供应商条款约束