• Исследователи создали ИИ-«червя», способного проникать в почтовые ассистенты на базе генеративного ИИ, такие как ChatGPT и Gemini, обходя меры безопасности, чтобы извлекать конфиденциальную информацию и рассылать спам.
  • Исследователи показали, как такие черви могут подрывать целостность данных и распространяться на ничего не подозревающих пользователей.

Группа исследователей представила то, что они называют одним из первых червей генеративного ИИ, способных распространяться по системам, потенциально похищая данные или распространяя вредоносное ПО. Эта разработка подчёркивает уязвимости, присущие взаимосвязанным экосистемам ИИ, и служит суровым предупреждением для технологических компаний и разработчиков, использующих эти технологии.

Эксплуатация уязвимостей в системах ИИ

Создание исследователей Бена Насси, Става Коэна и Рона Биттона, ИИ-червь по имениMorris II, отдаёт дань уважения разрушительному компьютерному червю Morris 1988 года. Используя «самовоспроизводящийся вредоносный промпт», исследователи продемонстрировали, как эта вредоносная сущность может проникать в почтовые ассистенты на базе генеративного ИИ, такие как ChatGPT и Gemini, обходя меры безопасности для извлечения конфиденциальной информации и рассылки спама. Это открытие проливает свет на зарождающуюся угрозу, которую представляют черви генеративного ИИ, — опасность, которая, по мнению экспертов, может иметь далеко идущие последствия, если её не остановить.

Методология исследователей заключалась в эксплуатации уязвимостей в системах ИИ с помощью внедрения самовоспроизводящихся промптов — как в виде текста, так и встроенных в файлы изображений. В ходе серии симулированных атак на почтовую систему, интегрированную с несколькими моделями генеративного ИИ, команда показала, как эти черви могут подрывать целостность данных и распространяться на ничего не подозревающих пользователей. Заставляя ИИ генерировать дополнительные инструкции в своих ответах — подобно традиционным кибератакам, таким какSQL-инъекция, — исследователи подчеркнули потенциальный масштаб этой новой угрозы.

Читайте также:Кибератака на Change Healthcare вызывает опасения по поводу безопасности

Предупреждение ключевых игроков и призывы к действию

Хотя исследование проводилось в контролируемых средах, а не против общедоступных платформ, его последствия глубоки. По мере того как большие языковые модели продолжают развиваться и расширять свои мультимодальные возможности, охватывающие изображения и видео, масштаб эксплуатации растёт. Появление червей генеративного ИИ подчёркивает насущную необходимость надёжных мер кибербезопасности в экосистеме ИИ, призывая участников отрасли укреплять свою защиту от новых угроз.

Читайте также:Сбой ChatGPT был вызван DDoS-атакой, а не его популярностью

Срочная необходимость надёжных мер кибербезопасности

В ответ на эти выводы были уведомлены ключевые игроки в области ИИ, такие как Google и OpenAI. OpenAI признаёт уязвимость и обязуется повышать устойчивость к таким атакам, а Google хранит молчание. Исследование служит призывом к бдительности и активным мерам безопасности в сфере ИИ, подчёркивая критическую важность безопасного проектирования приложений и внимательного мониторинга для предотвращения возможных нарушений.

По мере того как призрак червей генеративного ИИ нависает на горизонте, эксперты предупреждают, что будущий риск, который представляют эти сущности, является реальной проблемой. С распространением ИИ-приложений, которым поручено выполнять задачи автономно, потенциал использования злоумышленниками уязвимостей становится насущной реальностью. Ответственность лежит на разработчиках и заинтересованных сторонах отрасли — оставаться на шаг впереди, внедряя строгие протоколы безопасности и меры защиты, чтобы смягчить неизбежную угрозу того, что в ближайшие годы черви генеративного ИИ вырвутся в реальный мир.