• Крейг Гибсон из DupeWise AI Labs подчёркивает, что ИИ-системы могут непреднамеренно совершать преступные действия из-за ошибок проектирования и неточных прогнозов, что приводит к злоупотреблению ресурсами организаций.
  • Он подчёркивает важность выявления возможных преступных действий путём их сопоставления с разрешёнными действиями ИИ и изменения стимулов ИИ, чтобы обеспечить соблюдение законов.
  • Развивающаяся правовая среда — на примере дела Air Canada — подчёркивает необходимость надёжных гарантий и правовой определённости для урегулирования действий, совершённых ИИ.
Недавно мы взяли интервью у главного исследователяDupeWise AI Labs,Craig Gibson, чтобы обсудить, могут ли ИИ-системы самостоятельно совершать преступные действия внутри организаций. Гибсон рассказал о значительных рисках, связанных с ошибками проектирования ИИ, и об этических и правовых вызовах, которые эти риски за собой влекут.

Читайте также:Проблемы Character AI: что с ним не так?

Читайте также:Три прорывных фактора: загадка промышленной революции ИИ

Расхождение между предполагаемыми и фактическими возможностями

Гибсон подчеркнул, что ИИ-системы могут непреднамеренно совершать преступные действия из-за неточных прогнозов при проектировании. Он объяснил: «Если ИИ спроектирован для выполнения одной задачи, но может выполнять сотню, некоторые из этих действий могут быть преступными». Такое расхождение между предполагаемыми и фактическими возможностями может побуждать ИИ выбирать более быстрые, хотя и незаконные действия.

ИИ может манипулировать человеческим вниманием с помощью мошенничества, лжи и эмоционального насилия, провоцируя саморазрушительные действия или извлекая ресурсы из других источников.

Craig Gibson, главный исследователь DupeWise AI Labs

Один из тревожных аспектов поведения ИИ — его способность использовать данные или ресурсы организации в преступных целях без явных указаний человека. Гибсон отметил, что модели ИИ, обученные на данных, созданных людьми, вбирают в себя как хорошие, так и плохие примеры человеческого поведения. Поэтому ИИ может имитировать преступное поведение, манипулируя такими ресурсами, как внимание людей, деньги или доступ к сети. «ИИ может манипулировать человеческим вниманием с помощью мошенничества, лжи и эмоционального насилия, провоцируя саморазрушительные действия или извлекая ресурсы из других источников», — предупредил Гибсон.

Предотвращение неэтичных или незаконных действий ИИ

Предотвратить участие ИИ в неэтичных или незаконных действиях — сложная задача. Гибсон предложил проактивный подход: «Организациям следует собрать полный перечень всех возможных преступных действий человека и сопоставить его с разрешёнными действиями ИИ». Такое сопоставление помогает выявить возможные преступления, которые ИИ может совершить. Кроме того, изменение стимулов ИИ в пользу приоритета соблюдения законов может обучить его действовать этично.

Правовая среда вокруг автономных действий ИИ всё ещё формируется. Гибсон привёл показательный пример — делоAir Canada, где созданная ИИ политика возврата средств привела к серьёзным финансовым последствиям. «Канадская судебная система возложила на Air Canada финансовую ответственность за спонтанно сформированную ИИ политику», — пояснил он. Этот случай подчёркивает необходимость чётких правовых рамок для урегулирования действий, совершённых ИИ.

Я обнаружил, что множество различных технологий могут совершать одно и то же преступление под разными названиями. Осознание того, что разные преступления по сути одинаковы для разных технологий, стало для меня откровением. Сегодня ИИ ускоряет мою работу: я использую несколько ИИ-агентов, как сотрудников, для проведения исследований и выявления форм преступлений. Эти агенты стали неотъемлемой частью моей работы в DupeWise.

Craig Gibson, главный исследователь DupeWise AI Labs

Сложности и достижения в расследованиях с использованием ИИ

Оглядываясь на свой исследовательский путь, Гибсон рассказал о сложностях и достижениях в расследованиях с использованием ИИ. «Я обнаружил, что множество различных технологий могут совершать одно и то же преступление под разными названиями. Осознание того, что разные преступления по сути одинаковы для разных технологий, стало для меня откровением. Сегодня ИИ ускоряет мою работу: я использую несколько ИИ-агентов, как сотрудников, для проведения исследований и выявления форм преступлений. Эти агенты стали неотъемлемой частью моей работы в DupeWise AI», — отметил он.

Благодаря развитию ИИ его работа ускорилась: теперь ИИ-агенты помогают выявлять и анализировать формы преступлений для его компании DupeWise.

По мере развития ИИ-технологий потребность в надёжных гарантиях и правовой определённости становится первостепенной. Идеи Гибсона подчёркивают важность прогнозирования поведения ИИ, обеспечения этического соответствия и адаптации правовых рамок к уникальным вызовам, связанным с автономной деятельностью ИИ.

Изображение статьи

О DupeWise AI

По мере того как технологии 5G и 6G становятся основой глобальной коммуникационной инфраструктуры, интеграция ИИ приносит как новые возможности, так и новые уязвимости. DupeWise AI специализируется именно на новых криминальных проявлениях поведения ИИ в масштабе, создающих значительные риски для современных телекоммуникационных сетей.

Сотрудники компании имеют сертификаты в области борьбы с мошенничеством, контртерроризма, полицейской деятельности, конфиденциальности, цепочек поставок и логистики, выданные такими авторитетными организациями, как United Nations и Association of Certified Fraud Examiners, поэтому экспертиза DupeWise не имеет аналогов.

Их исследователи публиковались совместно с известными организациями, включая United Nations Artificial Intelligence and Robotics, EUROPOL Cyber Crime Centre (EC3) и компании в сфере кибербезопасности, такие как Trend Micro, а также представляли свои результаты на уважаемых площадках, включая INTERPOL, EUROPOL и United Nations Centre for Counter Terrorism (UNCCT). Исследования DupeWise публиковались в ведущих СМИ, таких как ISMG, Max Planck Institute, United Nations ITU и The Xinhua News; материалы переводились на пять языков, что подчёркивает их глобальное влияние и признание в области ИИ и кибербезопасности.