Cloudflare 宣布 AI 网关新增多模型负载均衡和成本控制功能。开发者可以在不同 AI 模型提供者之间自动路由请求，优化延迟和成本。
什么是 AI 网关？
AI 网关是 Cloudflare 推出的一款中间件服务，位于应用程序和 AI 模型提供者之间。它可以统一管理 API 请求、缓存响应、监控使用情况。
新特性
- 多模型负载均衡：支持最低延迟路由、轮询分发、优先级路由
- 智能成本控制：设置预算上限，自动路由到更便宜的模型
- 统一观测与监控：实时仪表盘、分布式追踪
定价
- 免费版：每月 100 万次请求
- 专业版：每月 $20
- 企业版：自定义定价
总结
Cloudflare AI Gateway 的此次更新标志着 AI 基础设施进入新阶段。多模型负载均衡和成本控制功能解决了开发者在 AI 集成中的核心痛点。对于使用多个 AI 模型的团队来说，这是值得关注的产品更新。