• “AI 防火墙”服务已面向 Cloudflare 的 Application Security Advanced 企业客户开放。该服务上线时包含两项功能：高级速率限制和敏感数据检测。
  • 高级速率限制允许客户创建策略，设置单个 IP 地址或 API 密钥在会话期间可执行的最大请求速率。
  • 敏感数据检测功能可防止 LLM 在响应查询时泄露机密数据。

Cloudflare 已宣布推出其“AI 防火墙”服务，旨在加强对使用大型语言模型（LLM）的应用程序的保护。这一进展正值关键时刻，科技行业正面临在最大化 LLM 潜力的同时防范其漏洞的双重挑战。

Cloudflare 的 AI 防火墙及其关键功能

Cloudflare 的 AI 防火墙服务面向其 Application Security Advanced 企业客户，引入了两项关键功能：高级速率限制和敏感数据检测。前者允许企业为 IP 地址或 API 密钥的请求速率设置上限，旨在防范分布式拒绝服务（DDoS）攻击，并确保 LLM 的平稳运行。后者旨在防止机密数据意外泄露，客户可配置规则来扫描并过滤 LLM 响应中的敏感信息，例如财务详情和 API 密钥。

尽管这些功能在保护 LLM 免遭滥用和数据泄露方面取得了重大进展，但 Cloudflare 承认当前技术在完全缓解 AI 生成内容相关风险方面存在局限性。目前尚无防火墙规则可阻止 LLM 传播不准确或捏造的信息，这凸显了 AI 安全领域所面临的复杂挑战。

另请阅读：SNSKIES：为企业提供定制化网络安全解决方案和社交活动

增强安全性的提示词验证功能

Cloudflare 计划推出一项目前处于 beta 测试阶段的提示词验证功能。这一创新工具旨在抵御提示词注入攻击，即恶意用户操纵 LLM 生成不当或非法内容。通过根据危害潜力对每个提示词进行分析和评分，并允许客户相应地阻止或允许请求，Cloudflare 旨在为 LLM 的使用增添另一层安全保障。

Cloudflare 的 AI 防火墙的意义不仅限于其直接功能。在 LLM 正迅速融入各类产品和服务的时代，出现错误、捏造信息和安全漏洞的可能性已成为一项迫切关注的问题。包括 Google 在内的各大科技公司已将漏洞赏金计划扩展至 AI 产品，这反映出行业已认识到复杂 AI 技术所引发的新兴威胁。