2026 年 6 月 18 日,Cloudflare 正式发布了 AI 网关(AI Gateway)的重大更新,新增多模型负载均衡和智能成本控制功能。

什么是 AI 网关?

AI 网关是 Cloudflare 推出的一款中间件服务,位于应用程序和 AI 模型提供者之间。它可以统一管理 API 请求、缓存响应、监控使用情况,并在多个提供者之间进行智能路由。

新特性

  1. 多模型负载均衡:支持最低延迟路由、轮询分发、优先级路由
  2. 智能成本控制:设置预算上限,自动路由到更便宜的模型
  3. 统一观测与监控:实时仪表盘、分布式追踪

定价

  • 免费版:每月 100 万次请求
  • 专业版:每月 $20
  • 企业版:自定义定价