Claude / GPT 多模型 API 网关
接入运行手册
生产环境的超时、重试、日志、报警和回滚建议。
发布前
确认模型名、base URL、超时、重试、日志脱敏和额度报警。
运行中
观察错误率、p95 耗时、token 消耗和流式中断比例。
回滚时
保留上一版模型配置和 prompt 配置，支持快速切回。
生产接入检查表
| 项目 | 口径 | 用途 |
|---|---|---|
| 超时 | 已配置连接、首包、整体超时 | 避免请求长期挂起 |
| 重试 | 只重试幂等任务 | 避免重复执行业务动作 |
| 日志 | 记录 request id 和 token 消耗 | 便于追踪成本和错误 |
常见问题
ProTier Models 为什么价格更高？
它定位在生产级和高优先级调用，适合更看重稳定性而不是最低单价的场景。
ProTier Models 是否适合个人测试？
可以使用，但个人低预算测试通常更适合 FastLane API。