☁️
CF WIKI
← 返回产品目录 | 内容快照：2026-06-16
AI

AI Gateway

统一代理多家 AI Provider，提供观测、缓存、限流、重试和 fallback。

官方文档 ↗
免费层够多数生产；超过按调用次数计费。
AI 网关可观测成本
适合场景
生产级 AI 调用治理、成本控制、多模型路由
Wrangler 配置
// AI Gateway 在 Dashboard 创建；用普通 fetch 调用即可
// 也可以作为 Workers AI 的前置网关
Worker 代码
// 通过 AI Gateway 调 OpenAI（自动记日志、可缓存、可限流）
const res = await fetch(
  "https://gateway.ai.cloudflare.com/v1/<acct>/<gw>/openai/v1/chat/completions",
  {
    method: "POST",
    headers: {
      Authorization: `Bearer ${env.OPENAI_KEY}`,
      "Content-Type": "application/json",
    },
    body: JSON.stringify({
      model: "gpt-4o",
      messages: [{ role: "user", content: "hello" }],
    }),
  },
);
实现注意事项
  • ● 网关本身不提供模型；模型费用仍走原 Provider
  • ● 缓存按 prompt 命中；同一 prompt 不同上下文要小心错答
  • ● fallback 链最多几个 provider；监控 fallback 命中率发现主链异常
已复制
🔍 ESC