• « Firewall for AI » está disponível para clientes empresariais da oferta Application Security Advanced do provedor de nuvem e segurança. No lançamento, inclui dois recursos: limitação de taxa avançada e detecção de dados sensíveis.
  • A limitação de taxa avançada permite que o cliente crie uma regra definindo uma taxa máxima de requisições feitas por um endereço IP ou chave de API durante uma sessão.
  • A detecção de dados sensíveis impede que os LLMs divulguem dados confidenciais nas respostas às requisições.

Cloudflareanunciou o lançamento do seu serviço « Firewall for AI », com o objetivo de reforçar as proteções para aplicações que utilizam grandes modelos de linguagem (LLMs). Esse desenvolvimento chega em boa hora, enquanto a indústria de tecnologia enfrenta o duplo desafio de maximizar o potencial dos LLMs enquanto os protege contra suas vulnerabilidades.

O Firewall for AI da Cloudflare e seus principais recursos

Disponível para clientes empresariais da oferta Application Security Advanced da Cloudflare, o serviço Firewall for AI introduz dois recursos essenciais: limitação de taxa avançada e detecção de dados sensíveis. O primeiro permite que as empresas definam um limite para a taxa de requisições provenientes de um endereço IP ou chave de API, uma medida projetada para combater ataques de negação de serviço distribuído (DDoS) e garantir o bom funcionamento dos LLMs.

O segundo visa evitar o vazamento acidental de dados confidenciais, permitindo que os clientes configurem regras que analisam e filtram informações sensíveis, como detalhes financeiros e chaves de API, das respostas dos LLMs.

Embora esses recursos representem avanços significativos na proteção dos LLMs contra abusos e violações de dados, a Cloudflare reconhece as limitações das tecnologias atuais para mitigar completamente os riscos relacionados ao conteúdo gerado por IA. A ausência de uma regra de firewall para impedir a disseminação de informações imprecisas ou fabricadas pelos LLMs destaca os complexos desafios futuros na segurança da IA.

Leia também:SNSKIES: Soluções de cibersegurança personalizadas e eventos de networking para empresas

Funcionalidade de validação de prompts para reforçar a segurança

A Cloudflare planeja introduzir uma funcionalidade de validação de prompts atualmente em fase de teste beta. Essa ferramenta inovadora é projetada para combater ataques de injeção de prompt, onde usuários maliciosos manipulam os LLMs para gerar conteúdo inadequado ou ilegal. Ao analisar e pontuar cada prompt com base em seu potencial de dano, e permitir que os clientes bloqueiem ou autorizem requisições de acordo, a Cloudflare visa adicionar uma camada extra de segurança ao uso dos LLMs.

A importância do Firewall for AI da Cloudflare vai além de seus recursos imediatos. Em uma época em que os LLMs estão sendo rapidamente integrados a uma ampla gama de produtos e serviços, o potencial de erros, fabricações e vulnerabilidades de segurança tornou-se uma preocupação urgente. Grandes empresas de tecnologia, incluindo o Google, expandiram seus programas de recompensa por bugs para incluir produtos de IA, refletindo o reconhecimento pela indústria das ameaças emergentes representadas pelas tecnologias sofisticadas de IA.