• Искусственный интеллект (ИИ) — это способность цифрового компьютера или управляемого компьютером робота выполнять задачи, обычно связанные с разумными существами.
  • Управление ИИ — это правовые рамки, которые обеспечивают, чтобы технологии ИИ и машинного обучения исследовались и разрабатывались для того, чтобы помочь человечеству внедрять и использовать такие системы этично и ответственно.
  • Масштаб, разнообразие, сложность и уровень технологической независимости систем ИИ требуют пересмотра законов, нормативных актов и политик. Для отображения сложности управления ИИ мы используем аналитическую модель, состоящую из 3 уровней.

Искусственный интеллект, или ИИ, — это технология, которая позволяет компьютерам и машинам имитировать человеческий интеллект и способность решать задачи. С технической точки зрения ИИ — не единая технология, а совокупность методов и субдисциплин: от распознавания речи и компьютерного зрения до внимания и памяти, если назвать лишь некоторые.

С феноменологической же точки зрения термин «ИИ» часто используют как обобщающий для обозначения определённой степени автономности, которую демонстрируют передовые системы медицинской диагностики, цифровые репетиторы нового поколения, беспилотные автомобили и другие приложения на основе ИИ. Такие приложения, в свою очередь, нередко влияют на поведение человека и динамично развиваются, иногда непредсказуемо для разработчиков систем.

Что такое управление ИИ?

Управление искусственным интеллектом (ИИ)относится к защитным механизмам, которые гарантируют, что инструменты и системы ИИ безопасны и остаются этичными. Оно формирует рамки, правила и стандарты, направляющие исследования, разработку и применение ИИ для обеспечения безопасности, справедливости и соблюдения прав человека.

Управление ИИ охватывает механизмы надзора, которые учитывают такие риски, как предвзятость, посягательства на приватность и злоупотребления, одновременно способствуя инновациям и доверию. Этико-ориентированный подход к управлению ИИ требует участия широкого круга заинтересованных сторон — разработчиков ИИ, пользователей, лиц, принимающих политические решения, и этиков, — что гарантирует разработку и использование систем ИИ в соответствии с ценностями общества.

Цель управления — создать необходимый надзор для согласования поведения ИИ с этическими нормами и ожиданиями общества и защититься от возможных негативных последствий.

Управление ИИ необходимо для достижения состояния соответствия, доверия и эффективности при разработке и применении технологий ИИ. По мере всё более широкой интеграции ИИ в деятельность организаций и государственных органов потенциальный негативный эффект становится заметнее. Громкие провалы — инцидент с чат-ботом Tay (ссылка ведёт за пределы ibm.com), когда ИИ-чатбот Microsoft усвоил токсичное поведение из публичного общения в соцсетях, и предвзятые решения о приговорах, принятые программой COMPAS (ссылка ведёт за пределы ibm.com), — показали, что надёжное управление необходимо для предотвращения вреда и сохранения доверия общества.

Многоуровневая модель

Один из ключевых инструментов управления сложными системами — модульность. Разграничивая задачи, требующие развёрнутой взаимозависимости, и задачи, которые в ней не нуждаются, модульность позволяет свести к минимуму число взаимозависимостей, подлежащих анализу. Особый вид модульности, известный как многоуровневость (layering), характеризуется расположением различных компонентов системы в параллельных иерархиях.

Для описания природы киберпространства существует четырёхуровневая модель: во-первых, субъекты кибернетического опыта; во-вторых, информация, которая передаётся, хранится и преобразуется в киберпространстве; в-третьих, сервисы как логические строительные блоки; в-четвёртых, физическая основа, поддерживающая логические элементы.

Мы пытаемся охватить сложную природу управления ИИ с помощью аналитической модели из трёх уровней.

Читайте также:ИИ: возможности и угрозы

1. Технический уровень

На техническом уровне находятся алгоритмы и данные, составляющие основу экосистемы управления ИИ. Будучи программными (например, системы уголовного правосудия, медицинской диагностики или умные персональные помощники) или физическими (например, коммерческие роботы и беспилотные автомобили), системы ИИ и автономные системы зависят от данных и алгоритмов. В рамках семинара Dagstuhl «DataResponsibly» был разработан набор руководящих принципов для ответственных алгоритмов, а также предложение декларации о социальном воздействии.

Предложенные руководящие принципы социально ответственных алгоритмов включают: подотчётность, объяснимость, точность, релевантность и беспристрастность. Управление данными — то есть процесс сбора, использования и обработки данных алгоритмами ИИ — должно следовать принципам, которые защищают справедливость и предотвращают дискриминацию по признаку расы, цвета кожи, национального происхождения, религии, пола, гендера, сексуальной ориентации или инвалидности.

Читайте также:Что такое Perplexity AI?

2. Этический уровень

Над техническим уровнем можно обсуждать широкие этические вопросы, касающиеся всех типов систем и приложений ИИ. Важным источником для выработки таких этических принципов служат принципы прав человека. Общие принципы IEEE для ИИ и автономных систем — ещё один пример того, как начинают оформляться этические нормы ИИ. Действия, управляемые алгоритмами, можно оценивать с помощью моральных норм и предписаний.

Этический принцип равенства обращения, или беспристрастности, был бы нарушен, например, если бы приложение ИИ изучило данные страховой компании и назначило конкретной группе людей более высокие взносы из-за таких факторов, как пол или возраст.

3. Социально-правовой уровень

Социально-правовой уровень может охватывать процесс создания институтов и распределения ролей для регулирования ИИ и автономных систем. Иными словами, орган, принимающий решения, мог бы получить полномочия определять ИИ, устанавливать исключения, позволяющие исследователям заниматься ИИ в определённых контекстах без строгой ответственности за свои действия, а также ввести процедуру сертификации ИИ. Принципы и нормы, выработанные на техническом и этическом уровнях, а также более общие национальные и международные правовые рамки, например в области прав человека, могут служить основой для специальных норм регулирования ИИ.

Для определения надлежащего поведения ИИ и автономных систем многоуровневая модель предлагает рамки для размышлений об управлении ИИ.

Структуры управления для систем алгоритмического принятия решений и систем ИИ могут внедряться с помощью сочетания многослойных и многоуровневых подходов. Здесь описаны лишь некоторые из этих уровней; следует помнить, что отдельные из них учитывались бы только в том случае, если риск, связанный с конкретными приложениями ИИ, был бы значительным и подтверждённым. Процедуры управления могут применяться на национальном или международном уровне и варьироваться от государственных структур до рыночных решений.