免费玩转Cloudflare-09:Cloudflare使用AI Gateway,让大模型APIKey统一网关、提速、防降智
大家好,我是星哥。如今每个开发者调用大模型的APIKey,难免会遇到以下的问题。
• 账单像开盲盒 :请求量一上来,月底一看账单心在滴血,根本不知道钱花哪了,哪些是无效请求。
• 速度像坐过山车 :高峰期卡得要死,动不动就超时,用户体验极差。
• 最要命的 IP 问题 :自己搭的不纯净,动不动就被官方“降智”(回答变蠢),甚至直接封号,简直搞心态。
如果你也中了这几条,那星哥今天必须给你安利一个“神仙工具”。
没错,咱们的“赛博菩萨” Cloudflare,又发了一个大招:AI Gateway(AI 统一网关)。
使用Cloudflare AI Gateway来统一管理AI服务的调用。
重点是:这服务是免费的!
AI Gateway是干嘛的?
简单来说,它就是一个架在你应用和大模型 API(比如 OpenAI、谷歌Gemini、HuggingFace)中间的 “智能门卫 + 调度员”。
费用
月订阅:$0
每日请求额度:10 万次 AI 网关请求,超限当日限流
持久日志存储限额:全账号合计10 万条 / 月,超出不再记录日志
限制:无 Logpush 日志导出、无超大流量弹性扩容、日志容量小
适用:个人项目、低频次测试、小型内部工具
![]()
它不替你算 AI,但它能帮你把 AI 请求管得明明白白。星哥给大家总结了它的几个核心爽点:
1. 防封防降智 :走 Cloudflare 的干净 IP,再也不用担心 IP 不纯净被大模型“变笨”或者封号了。
2. 成本全透明 :谁调了多少次、花了多少钱、Token 消耗多少,后台看得一清二楚。
3. 智能缓存 :相同的提示词,直接返回缓存结果,不扣大模型的 Token,省钱又提速。
4. 自带监控和限速 :请求日志、错误重试、速率限制,一站式搞定,应用稳如老狗。
星哥直接带大家走一遍流程。其实接入极其简单,核心就改一行代码。
第一步:在 CF 后台创建网关
1. 登录你的 Cloudflare 后台(没有账号的去注册一个,秒开)。
2. 左侧菜单找到 “AI” -> “AI Gateway” 。
3. 点击醒目的 “Create Gateway” ,随便起个名字,比如
star-ai。4. 创建好后,你会看到一个 复制API令牌 ,把这个令牌复制到记事本等笔记中。
![]()
创建新网关
![]()
第二步:提供程序密钥
ai-gateway 开通之后,过个5-10分钟,再次进入会到这个界面
有概述、日志、数据分析等等,我们点击“提供程序密钥”,这里就是需要填DeepSeek、OpenAI、谷歌Geimini的的密钥了。
![]()
BYOK
这里会有一个BYOK的概念,
BYOK = Bring Your Own Key,中文:自带密钥。
通用云安全定义:用户自行持有、管控第三方服务的访问密钥,把密钥托管到服务商加密存储,调用时由服务商后台自动代填密钥,客户端代码不再明文携带原始密钥。
![]()
选择大模型供应商
![]()
如果没有你需要的,也可以选择“配置自定义提供商”
我这里填OR作为测试。
![]()
第三步:调用
这一步贼简单,你只需要把原来请求大模型的 Base URL,换成上面那个 Gateway URL。其他参数、API Key 统统不用动!
调用谷歌的gemini-2.5
可以查看实例代码
![]()
CF_AIG_TOKEN='你的CF的AI Gateway的token'
CF_AIG_TOKEN='你的CF的ID'
curl -X POST https://gateway.ai.cloudflare.com/v1/$CF_ID_TAG/default/compat/chat/completions \
--header "cf-aig-authorization: Bearer $CF_AIG_TOKEN" \
--header "Content-Type: application/json" \
--data '{
"model": "google-ai-studio/gemini-2.5-flash",
"messages": [
{
"role": "user",
"content": "你好,你是谁,你用的大模型是什么?"
}
]
}'
{"choices":[{"finish_reason":"stop","index":0,"message":{"content":"你好!\n\n我是一个大型语言模型,由 Google 训练。","role":"assistant"}}],"created":1783580542,"id":"e0dPapfDNcGG28oPoaDx4QU","model":"gemini-2.5-flash","object":"chat.completion","usage":{"completion_tokens":14,"prompt_tokens":12,"total_tokens":472}}
进阶玩法:省钱又省心代码改完部署上去,你就可以回 CF 后台看戏了。星哥强烈建议大家去后台开启下面这两个功能:
1. 开启缓存(Caching)
在网关的 Settings 里打开 Caching,设置个 TTL(比如 3600秒)。
如果是电商生成商品描述这种重复率高的场景,开启后能省下大笔 Token 费用,速度也是秒回。
![]()
2. 配置限速(Rate Limiting)
在 Settings 里设置一下,比如限制单个 IP 每分钟最多请求 20 次。
防止别人恶意刷你的接口,或者代码写死循环把额度跑光。
3. 看日志和监控(Analytics & Logs)
这里能看到每一条请求的详细记录,包括耗时、状态码、缓存命中情况。调试 Bug、分析用户行为,简直是神器。
![]()
总结
说实话,Cloudflare 这个 AI Gateway 真的是把开发者的痛点拿捏得死死的。
既能白嫖它的全球边缘节点加速,又能省钱、防封、看日志,还要啥自行车?如果你正在折腾大模型应用,听星哥的,赶紧去配一个,绝对能帮你省去很多麻烦。
如果你也喜欢研究这些好玩、实用的技术,别忘了给文章点个 “赞” 和 “在看”。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.