Claude / GPT 多模型 API 网关
可靠性策略
围绕超时、重试、模型选择和限流设计生产调用方案。
超时策略
连接超时、首 token 超时和整体请求超时分开配置。
重试策略
只对可重放请求做指数退避重试，流式中断要记录已返回内容。
观察指标
记录状态码、模型名、耗时、输入输出 token 和上游错误类型。
常见问题
ProTier Models 为什么价格更高？
它定位在生产级和高优先级调用，适合更看重稳定性而不是最低单价的场景。
ProTier Models 是否适合个人测试？
可以使用，但个人低预算测试通常更适合 FastLane API。