Alephant 网关 | OpenModels Documentation

OpenModels API 访问运行于 Alephant 网关基础设施之上。Alephant 网关是 OpenModels 模型请求背后的生产级网关层；在流量到达上游模型提供商之前，它负责提供商路由、回退、策略控制、缓存、用量追踪与可观测性。

重要性

OpenModels 并非构建为代理链或共享转售密钥层。它使用 Alephant 网关通过托管的提供商供给路由请求，保持请求行为与 OpenAI 兼容，并提供生产级 AI 应用所需的运维控制能力。

能力	作用
提供商适配	统一上游 API、错误、流式响应、用量与响应格式。
路由控制	按模型、提供商、可用性、策略或工作区规则路由流量。
回退韧性	通过受控回退从缓慢、不可用或受限流的提供商中恢复。
策略执行	应用 API 密钥限制、提供商允许列表、预算和工作区级控制。
缓存层	通过响应缓存和语义缓存支持减少重复的上游调用。
可观测性	追踪请求日志、用量、延迟、失败、追踪信息和审计事件。