Cloudflare、LLM 保護のため「Firewall for AI」を発表

Cloudflare launches ‘Firewall for AI’ to protect LLMs は、BTW Media によってプロファイリングされています。公開された証拠が、インターネットインフラ、ガバナンス、運用依存関係、または市場の可視性に関連付けているためです。

• 「Firewall for AI」は、クラウドおよびセキュリティプロバイダーの Application Security Advanced オファリングのエンタープライズ顧客向けに利用可能です。リリース時には、高度なレート制限と機密データ検出の 2 つの機能が含まれています。
• 高度なレート制限では、クライアントはセッション中に IP アドレスまたは API キーによって行われるリクエストの最大レートを定義するルールを作成できます。
• 機密データ検出は、LLM がリクエストへの応答で機密情報を漏洩するのを防ぎます。

Cloudflareは、大規模言語モデル（LLM）を使用するアプリケーションの保護を強化することを目的とした「Firewall for AI」サービスの開始を発表しました。この開発は、テクノロジー業界が LLM の可能性を最大化しながら、その脆弱性から保護するという二重の課題に直面している中で、時宜を得たものです。

Cloudflare の Firewall for AI とその主な機能

Cloudflare の Application Security Advanced オファリングのエンタープライズ顧客向けに利用可能な Firewall for AI サービスは、高度なレート制限と機密データ検出という 2 つの重要な機能を導入します。前者は、IP アドレスや API キーからのリクエストレートの上限を企業が設定できるようにし、分散型サービス拒否（DDoS）攻撃に対抗し、LLM の円滑な動作を確保するための措置です。後者は、顧客がルールを設定して、財務詳細や API キーなどの機密情報を LLM の応答から分析・フィルタリングすることで、機密データの偶発的な漏洩を防ぐことを目的としています。

これらの機能は、LLM を悪用やデータ侵害から保護する上で大きな進歩を示していますが、Cloudflare は、AI 生成コンテンツに関連するリスクを完全に軽減するには現在のテクノロジーに限界があることを認識しています。LLM による不正確または虚偽の情報の拡散を防ぐファイアウォールルールが存在しないことは、AI セキュリティにおける今後の複雑な課題を浮き彫りにしています。

こちらもお読みください：SNSKIES: 企業向けのカスタムサイバーセキュリティソリューションとネットワーキングイベント

プロンプト検証機能によるセキュリティ強化

Cloudflare は、現在ベータテスト中のプロンプト検証機能を導入する予定です。この革新的なツールは、悪意のあるユーザーが LLM を操作して不適切または違法なコンテンツを生成させるプロンプトインジェクション攻撃に対抗するために設計されています。各プロンプトを危害の可能性に基づいて分析・スコアリングし、それに応じてクライアントがリクエストをブロックまたは許可できるようにすることで、Cloudflare は LLM の使用に追加のセキュリティ層を追加することを目指しています。

Cloudflare の Firewall for AI の重要性は、その即時的な機能を超えています。LLM が幅広い製品やサービスに急速に統合されている時代において、エラー、虚偽情報、セキュリティ脆弱性の可能性は喫緊の課題となっています。Google を含む大手テクノロジー企業は、バグ報奨金プログラムを AI 製品を含むように拡大しており、これは高度な AI テクノロジーがもたらす新たな脅威に対する業界の認識を反映しています。