• Технологические гиганты, включая OpenAI, Google, Microsoft и Nvidia, создали CoSAI для повышения безопасности приложений ИИ.
  • CoSAI разработает системы снижения рисков, упростит управление кибербезопасностью ИИ и займётся уязвимостями цепочки поставок в рамках трёх инициатив с открытым исходным кодом.

НАШЕ МНЕНИЕ
Запуск CoSAI технологическими гигантами говорит о проактивном подходе к безопасности ИИ: он учитывает уязвимости и создаёт среду для сотрудничества в области инноваций и лучших практик. Последовательно преодолевая фрагментированный ландшафт безопасности ИИ, этот альянс стремится обеспечить долгосрочную устойчивость систем ИИ, сохраняя их надёжность и отказоустойчивость в постоянно меняющейся цифровой среде.
— Вики Ву, журналистка BTW

Что произошло

Крупнейшие технологические компании объединились, чтобы создать Coalition for Secure AI (CoSAI) — консорциум по кибербезопасности, нацеленный на повышение безопасности приложений искусственного интеллекта. О создании было объявлено наAspen Security Forum. CoSAI будет действовать под эгидой OASIS — некоммерческой организации, которая курирует проекты с открытым исходным кодом, направленные на улучшение кибербезопасности.

Среди основателей CoSAI — отраслевые гиганты: OpenAI,Anthropic, AWS, Microsoft, Google, Nvidia, Intel, IBM, Cisco, PayPal, Wiz и Chainguard. Их общая миссия двойная: разрабатывать инструменты и рекомендации для защиты приложений ИИ и формировать экосистему обмена лучшими практиками и технологиями в области кибербезопасности ИИ.

Для достижения этих целей CoSAI запускает три направления работы с открытым исходным кодом. Во-первых, CoSAI планирует разработать систему, которая поможет командам разработчиков выявлять и снижать киберриски в нагрузках машинного обучения, включив таксономию распространённых уязвимостей и методов их устранения, а также панель мониторинга кибербезопасности для непрерывного наблюдения. Во-вторых, коалиция намерена упростить управление киберрисками ИИ за счёт определения стратегических инвестиций и применения мер по снижению рисков.

Наконец, приоритетом станет управление рисками цепочки поставок ПО: особое внимание уделят оптимизации анализа уязвимостей внешних компонентов из репозиториев, таких как GitHub, в сложных проектах.

Читайте также:Проект OpenAI «Strawberry» улучшает рассуждения ИИ

Читайте также:Google и Microsoft предлагают Китаю чипы Nvidia для ИИ

Почему это важно

Создание таких коалиций, как CoSAI, отражает коллективное понимание того, что безопасность ИИ имеет первостепенное значение. Движимые общей ответственностью, крупные компании объединяются, чтобы решать уникальные задачи безопасности ИИ. Объединяя ресурсы, эти организации могут совместно устранять внутренние уязвимости ИИ, эффективно сдерживая такие сложные угрозы, как состязательные входные данные и утечки данных. Ускорение инноваций, подпитываемое межорганизационным сотрудничеством, продвигает технологии и методы обеспечения безопасности, опираясь на коллективный опыт для прорывов.

Соответствие регуляторным требованиям и доверие общественности также имеют решающее значение. Компании могут позитивно влиять на политику и укреплять доверие пользователей, демонстрируя приверженность безопасности ИИ.

«Мы используем ИИ уже много лет и видим его постоянный потенциал для защитников, признавая при этом возможности, которые он открывает для злоумышленников», — говорится в заявлении Хизер Адкинс, вице-президента по безопасности в Google. «CoSAI поможет организациям любого размера внедрять ИИ безопасно и ответственно, помогая им получать преимущества и одновременно снижая риски».