• Исследователи оценили способность ИИ выявлять потенциальные уязвимости безопасности по семи распространённым типам.
  • Хотя экономические последствия значительны, активисты ставят во главу угла сохранение окружающей среды и права коренных народов, что создаёт почву для потенциального конфликта.

Хотя ИИ, например ChatGPT, демонстрирует впечатляющие возможности в генерации и анализе кода, его надёжность как аудитора безопасности остаётся под вопросом. Это подчёркивает важность использования как специализированных инструментов, так и человеческой экспертизы для всесторонней оценки потенциальных уязвимостей.

Оценка систем ИИ на предмет распространённых уязвимостей безопасности

По мере расширения возможностей искусственного интеллекта (ИИ) исследователи из Salus Security недавно проверилиGPT-4и другие системы ИИ на способность выявлять распространённые уязвимости безопасности. Исследование, проведённое двумя экспертами Salus Security — известной компании по безопасности блокчейна с операциями в Северной Америке, Европе и Азии, — было направлено на оценку того, насколько эффективно GPT-4 разбирает и проверяет смарт-контракты.

Читайте также:Обзор Gemini от Alphabet — модели ИИ, нацеленной на соперничество с ChatGPT-4

Двойственная природа ИИ

Исследование показало, что ИИ, включая ChatGPT, демонстрирует достойную похвалы способность генерировать и анализировать код, однако его надёжность как аудитора безопасности остаётся под вопросом. Опираясь на набор данных из 35 смарт-контрактов — библиотеку уязвимостей SolidiFI-benchmark, содержавшую в общей сложности 732 уязвимости, — исследователи оценили способность ИИ выявлять потенциальные слабые места в безопасности по семи наиболее распространённым типам уязвимостей.

Результаты показали, что ChatGPT продемонстрировал высокую точность — более 80 % — при выявлении истинно положительных результатов, то есть реальных уязвимостей, требующих дальнейшего изучения за пределами контролируемой среды. Однако система ИИ столкнулась с проблемой ложноотрицательных результатов: в экспериментах команды Salus полнота составила лишь 11 %. Это позволило сделать вывод, что возможности GPT-4 по обнаружению уязвимостей ограничены: максимальная доля верных ответов достигала всего 33 %.

Читайте также:ChatGPT добавляет доступ к другим GPT через «@»

Человеческая экспертиза и специализированные инструменты при оценке уязвимостей

С учётом этих результатов исследователи рекомендовали полагаться на специализированные инструменты аудита и человеческую экспертизу при проверке смарт-контрактов, пока такие системы ИИ, как GPT-4, не достигнут нужной эффективности. Такой подход подчёркивает необходимость осторожно внедрять ИИ в чувствительные области, например в аудит безопасности, и отмечает взаимодополняющую роль человеческой экспертизы и специализированных инструментов в обеспечении тщательной оценки потенциальных уязвимостей.

Результаты исследования проливают свет на меняющийся ландшафт применения ИИ в сфере безопасности и подчёркивают важность постоянного совершенствования систем ИИ, чтобы они отвечали жёстким требованиям аудита безопасности. По мере развития технологий ИИ организациям всё важнее находить баланс между использованием возможностей ИИ и пониманием его текущих ограничений в таких критических областях, как оценка безопасности.

Выводы этого исследования вносят ценный вклад в продолжающуюся дискуссию о пересечении ИИ и безопасности, побуждая участников отрасли задуматься о тонких последствиях интеграции ИИ в протоколы безопасности. В дальнейшем это исследование может стимулировать диалог и инновации, направленные на повышение эффективности инструментов аудита безопасности на основе ИИ и в конечном счёте на укрепление устойчивости цифровых экосистем к новым угрозам.