• «Firewall for AI» доступен корпоративным клиентам тарифа Application Security Advanced от поставщика облачных услуг и решений в области безопасности. На старте сервис включает две функции: расширенное ограничение частоты запросов и обнаружение чувствительных данных.
  • Расширенное ограничение частоты запросов позволяет клиенту создать правило, задающее максимальную частоту запросов с одного IP-адреса или API-ключа в рамках сеанса.
  • Обнаружение чувствительных данных не даёт LLM раскрывать конфиденциальные сведения в ответах на запросы.

Cloudflareобъявил о запуске сервиса «Firewall for AI», призванного усилить защиту приложений, использующих большие языковые модели (LLM). Это событие своевременно: технологическая отрасль стоит перед двойной задачей — максимально раскрыть потенциал LLM и одновременно защитить их от уязвимостей.

Firewall for AI от Cloudflare: основные функции

Сервис «Firewall for AI» доступен корпоративным клиентам тарифа Application Security Advanced от Cloudflare и включает две ключевые функции: расширенное ограничение частоты запросов и обнаружение чувствительных данных. Первая позволяет компаниям задать предельную частоту запросов с одного IP-адреса или API-ключа — эта мера предназначена для противодействияраспределённым атакам типа «отказ в обслуживании»(DDoS) и обеспечения стабильной работы LLM. Вторая призвана предотвратить случайную утечку конфиденциальных данных: клиенты могут настроить правила, которые анализируют и отфильтровывают чувствительную информацию (например, финансовые данные и API-ключи) из ответов LLM.

Хотя эти функции представляют собой существенный прогресс в защите LLM от злоупотреблений и утечек данных, Cloudflare признаёт ограниченность текущих технологий в полном устранении рисков, связанных с контентом, генерируемым ИИ. Отсутствие правила межсетевого экрана, которое предотвращало бы распространение неточных или вымышленных сведений, создаваемых LLM, подчёркивает сложные задачи, стоящие перед безопасностью ИИ.

Читайте также:SNSKIES: индивидуальные решения в области кибербезопасности и нетворкинг-мероприятия для компаний

Функция валидации промптов для усиления безопасности

Cloudflare планирует внедрить функцию валидации промптов, которая сейчас находится на этапе бета-тестирования. Этот инновационный инструмент призван противодействовать атакам с инъекцией промптов, когда злоумышленники манипулируют LLM, заставляя их генерировать нежелательный или противоправный контент. Анализируя каждый промпт и оценивая его потенциальную вредоносность, а затем позволяя клиентам блокировать или разрешать запросы, Cloudflare намерен добавить дополнительный уровень безопасности к использованию LLM.

Значение «Firewall for AI» от Cloudflare выходит за рамки его непосредственных функций. В эпоху, когда LLM стремительно интегрируются в широкий спектр продуктов и услуг, потенциал ошибок, вымышленных данных и уязвимостей безопасности стал насущной проблемой. Крупные технологические компании, включая Google, расширили свои программы вознаграждения за найденные ошибки, включив в них продукты на основе ИИ, что отражает осознание отраслью новых угроз, создаваемых передовыми технологиями ИИ.