Cloudflare launches ‘Firewall for AI’ to protect LLMs

• “Firewall for AI” está disponible para los clientes empresariales de Application Security Advanced del proveedor de nube y seguridad. En su lanzamiento, incluye dos capacidades: Limitación Avanzada de Velocidad y Detección de Datos Confidenciales.
• La Limitación Avanzada de Velocidad permite al cliente crear una política que establece una tasa máxima de solicitudes realizadas por una dirección IP o clave API individual durante una sesión.
• La Detección de Datos Confidenciales evita que los LLM filtren datos confidenciales en las respuestas a las consultas.

Cloudflare ha anunciado la introducción de su servicio “Firewall for AI”, destinado a reforzar las protecciones para las aplicaciones que utilizan modelos de lenguaje grandes (LLM). Este desarrollo es particularmente oportuno, ya que la industria tecnológica se enfrenta al doble desafío de maximizar el potencial de los LLM mientras se protege contra sus vulnerabilidades.

El firewall para IA de Cloudflare y sus características clave

Disponible para los clientes empresariales de Application Security Advanced de Cloudflare, el servicio Firewall for AI presenta dos características fundamentales: Limitación Avanzada de Velocidad y Detección de Datos Confidenciales. La primera permite a las empresas establecer un límite en la tasa de solicitudes desde una dirección IP o clave API, una medida diseñada para frustrar los ataques de denegación de servicio distribuido (DDoS) y garantizar el funcionamiento sin problemas de los LLM. La segunda característica tiene como objetivo evitar la fuga accidental de datos confidenciales al permitir a los clientes configurar reglas que analicen y filtren información sensible, como detalles financieros y claves API, de las respuestas de los LLM.

Si bien estas características representan avances significativos en la protección de los LLM contra abusos y violaciones de datos, Cloudflare reconoce las limitaciones de las tecnologías actuales para mitigar por completo los riesgos asociados con el contenido generado por IA. La ausencia de una regla de firewall para evitar la difusión de información inexacta o fabricada por los LLM pone de relieve los complejos desafíos que se avecinan en la seguridad de la IA. Ver también: La FCC respalda a los constructores de fibra con límites de permisos.

Lea también: SNSKIES: Soluciones de ciberseguridad a medida y eventos de networking para empresas

Función de validación de prompts para mejorar la seguridad

Cloudflare planea introducir una función de validación de prompts que actualmente está en fase de pruebas beta. Esta herramienta innovadora está diseñada para contrarrestar los ataques de inyección de prompt, en los que usuarios malintencionados manipulan los LLM para generar contenido inapropiado o ilegal. Al analizar y puntuar cada prompt en función de su potencial de daño, y permitir a los clientes bloquear o permitir solicitudes en consecuencia, Cloudflare pretende añadir otra capa de seguridad al uso de los LLM. Ver también: Ofcom expone la brecha de cobertura móvil en los trenes del Reino Unido.

La importancia del Firewall for AI de Cloudflare va más allá de sus funcionalidades inmediatas. En una era en la que los LLM se están integrando rápidamente en una amplia gama de productos y servicios, el potencial de errores, invenciones y vulnerabilidades de seguridad se ha convertido en una preocupación acuciante. Las principales empresas tecnológicas, incluida Google, han ampliado sus programas de recompensas por errores para abarcar los productos de IA, lo que refleja el reconocimiento por parte de la industria de las amenazas emergentes que plantean las sofisticadas tecnologías de IA. Ver también: Robert Neuwirth.