Cloudflare lança ‘Firewall for AI’ para proteger LLMs

"Cloudflare lança ‘Firewall for AI’ para proteger LLMs" é perfilado pela BTW Media porque evidências publicadas o vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• “Firewall for AI,” está disponível para os clientes corporativos do Application Security Advanced da provedora de nuvem e segurança. No lançamento, inclui duas funcionalidades: Limitação Avançada de Taxa e Detecção de Dados Sensíveis.
• A Limitação Avançada de Taxa permite que o cliente crie uma política que define uma taxa máxima de requisições realizadas por um endereço IP ou chave API individual durante uma sessão.
• A Detecção de Dados Sensíveis impede que LLMs vazem dados confidenciais em respostas a consultas.

ACloudflareanunciou a introdução de seu serviço “Firewall for AI”, com o objetivo de reforçar as proteções para aplicações que utilizam grandes modelos de linguagem (LLMs). Este desenvolvimento é particularmente oportuno, à medida que a indústria de tecnologia enfrenta o duplo desafio de maximizar o potencial dos LLMs enquanto se protege contra suas vulnerabilidades.

Firewall for AI da Cloudflare e suas principais funcionalidades

Disponível para clientes corporativos do Application Security Advanced da Cloudflare, o serviço Firewall for AI introduz duas funcionalidades essenciais: Limitação Avançada de Taxa e Detecção de Dados Sensíveis. A primeira permite que as empresas estabeleçam um limite na taxa de requisições de um endereço IP ou chave API, uma medida destinada a frustrar ataques denegação de serviço distribuída(DDoS) e garantir o bom funcionamento dos LLMs. A segunda funcionalidade visa evitar o vazamento acidental de dados confidenciais, permitindo que os clientes configurem regras que escaneiam e filtram informações sensíveis, como detalhes financeiros e chaves API, das respostas dos LLMs.

Embora essas funcionalidades representem avanços significativos na proteção dos LLMs contra abusos e violações de dados, a Cloudflare reconhece as limitações das tecnologias atuais em mitigar completamente os riscos associados ao conteúdo gerado por IA. A ausência de uma regra de firewall para evitar a disseminação de informações imprecisas ou fabricadas pelos LLMs destaca os complexos desafios que estão por vir na segurança de IA.

Leia também:SNSKIES: Soluções personalizadas de cibersegurança e eventos de networking para empresas

Recurso de validação de prompts para aumentar a segurança

A Cloudflare planeja introduzir um recurso de validação de prompts atualmente em testes beta. Esta ferramenta inovadora foi projetada para combater ataques de injeção de prompts, nos quais usuários maliciosos manipulam os LLMs para gerar conteúdo inadequado ou ilegal. Ao analisar e pontuar cada prompt com base em seu potencial de dano, e permitindo que os clientes bloqueiem ou permitam requisições de acordo, a Cloudflare visa adicionar outra camada de segurança ao uso dos LLMs.

A importância do Firewall for AI da Cloudflare vai além de suas funcionalidades imediatas. Em uma era em que os LLMs estão sendo rapidamente integrados a uma ampla gama de produtos e serviços, o potencial de erros, fabricações e vulnerabilidades de segurança tornou-se uma preocupação urgente. Grandes empresas de tecnologia, incluindo o Google, expandiram seus programas de recompensas por bugs para abranger produtos de IA, refletindo o reconhecimento da indústria das ameaças emergentes representadas por tecnologias de IA sofisticadas.