• « Firewall for AI » ist für Enterprise-Kunden des Angebots Application Security Advanced des Cloud- und Sicherheitsanbieters verfügbar. Zum Start umfasst es zwei Funktionen: erweitertes Rate Limiting und Erkennung sensibler Daten.
  • Erweitertes Rate Limiting ermöglicht es dem Kunden, eine Regel zu erstellen, die eine maximale Rate von Anfragen definiert, die von einer IP-Adresse oder einem API-Schlüssel während einer Sitzung durchgeführt werden.
  • Die Erkennung sensibler Daten verhindert, dass LLMs vertrauliche Daten in Antworten auf Anfragen preisgeben.

Cloudflarehat die Einführung seines Dienstes « Firewall for AI » angekündigt, der den Schutz für Anwendungen, die große Sprachmodelle (LLMs) nutzen, verbessern soll. Diese Entwicklung kommt zur rechten Zeit, da die Technologiebranche vor der doppelten Herausforderung steht, das Potenzial der LLMs zu maximieren und sie gleichzeitig vor ihren Schwachstellen zu schützen.

Cloudflares « Firewall for AI » und seine wichtigsten Funktionen

Der Dienst « Firewall for AI » ist für Enterprise-Kunden des Cloudflare-Angebots Application Security Advanced verfügbar und führt zwei wesentliche Funktionen ein: erweitertes Rate Limiting und Erkennung sensibler Daten. Ersteres ermöglicht es Unternehmen, eine Obergrenze für die Rate von Anfragen von einer IP-Adresse oder einem API-Schlüssel festzulegen – eine Maßnahme, dieDistributed-Denial-of-Service-Angriffen (DDoS) entgegenwirken und den reibungslosen Betrieb der LLMs gewährleisten soll. Letzteres zielt darauf ab, die versehentliche Preisgabe vertraulicher Daten zu verhindern, indem Kunden Regeln konfigurieren können, die sensible Informationen wie Finanzdetails und API-Schlüssel aus den Antworten der LLMs analysieren und herausfiltern.

Lesen Sie auch:SNSKIES: Maßgeschneiderte Cybersicherheitslösungen und Networking-Events für Unternehmen

Funktion zur Prompt-Validierung zur Stärkung der Sicherheit

Cloudflare plant die Einführung einer Prompt-Validierungsfunktion, die sich derzeit in der Beta-Testphase befindet. Dieses innovative Tool soll Prompt-Injection-Angriffe abwehren, bei denen böswillige Benutzer LLMs manipulieren, um unangemessene oder illegale Inhalte zu generieren. Durch die Analyse und Bewertung jedes Prompts auf der Grundlage seines Schadenspotenzials und die Möglichkeit für Kunden, Anfragen entsprechend zu blockieren oder zuzulassen, möchte Cloudflare eine zusätzliche Sicherheitsebene für die Nutzung von LLMs schaffen.

Die Bedeutung von Cloudflares « Firewall for AI » geht über seine unmittelbaren Funktionen hinaus. In einer Zeit, in der LLMs schnell in eine breite Palette von Produkten und Dienstleistungen integriert werden, ist das Potenzial für Fehler, Falschinformationen und Sicherheitslücken zu einem dringenden Problem geworden. Große Technologieunternehmen, darunter Google, haben ihre Bug-Bounty-Programme auf KI-Produkte ausgeweitet, was die Anerkennung der aufkommenden Bedrohungen durch hochentwickelte KI-Technologien in der Branche widerspiegelt.