• По мере развития систем ИИ и роста их сложности будут увеличиваться и связанные с ними риски, и их взаимосвязанность с другими интеллектуальными устройствами и системами, что потребует создания специальных механизмов управления.
  • Идёт дискуссия о необходимости регулирования ИИ. Одни согласны с этим из-за рисков, связанных с ИИ, другие же считают, что риски возникнут и из-за самого регулирования.
  • Управление ИИ должно быть адаптивным и совместным, иначе оно не сможет успевать за последними разработками в этой области.

Искусственный интеллект (ИИ) радикально меняет то, как организованы социальные взаимодействия и сделки в современном обществе. Системы ИИ и лежащие в их основе алгоритмы играют всё более важную роль при принятии сложных моральных решений для общества. Среди таких систем — системы поддержки клинических решений, которые ставят диагнозы пациентам, системы прогнозирования преступности, которые предсказывают вероятность криминальной активности, и алгоритмы фильтрации, которые классифицируют и предлагают пользователям персонализированный контент.

Искусственный интеллект (ИИ) отличается от других технологий способностью имитировать или превосходить человеческий интеллект при решении сложных задач, поскольку многие когнитивные задачи, которые обычно выполняют люди, могут быть заменены и превзойдены машинами.

Почему важно управление ИИ?

Управление ИИи регулирование важны для понимания и контроля уровня риска, связанного с разработкой и внедрением ИИ. В конечном счёте это также поможет выработать консенсус по приемлемому уровню риска для использования технологий машинного обучения в обществе и бизнесе.

Однако управлять развитием ИИ очень сложно: не существует ни централизованного регулирования, ни системы управления рисками, на которую могли бы опираться разработчики и пользователи. Кроме того, оценить риски трудно, поскольку они зависят от контекста использования системы.

Почему ИИ нужно регулировать?

Обеспечение этичного использования ИИ

Регулирование необходимо для применения и адаптации существующих законов о цифровых технологиях к ИИ. Это означает защиту конфиденциальности пользователей (и их данных). Компании, работающие с ИИ, должны вкладываться в надёжную кибербезопасность при работе с алгоритмами, требовательными к данным… и отказываться от части доходов, поскольку данные пользователей не должны продаваться третьим лицам. Без регулирования американские компании, похоже, систематически и намеренно не понимают эту концепцию.

Если говорить более философски, регулирование может способствовать укреплению доверия, прозрачности и ответственности среди пользователей, разработчиков и заинтересованных сторон генеративного ИИ. Если потребовать от всех участников раскрывать источник, цель и ограничения результатов ИИ, мы сможем принимать более взвешенные решения… и доверять решениям других. Общество в этом нуждается.

Защита прав человека и безопасности

Помимо «основ», регулирование должно защищать население в целом от многочисленных рисков безопасности, связанных с ИИ.

Большинство из них будут связаны с человеком. Злоумышленники могут использовать генеративный ИИ для распространения дезинформации или создания дипфейков. Сделать это очень легко, и компании, судя по всему, не могут положить этому конец самостоятельно, главным образом потому, что не хотят (а не потому, что не могут) маркировать контент, созданный ИИ. От принятия регулирования могут зависеть наши следующие выборы… а дочери-подростки могли бы спросить нас, почему мы не сделали этого раньше.

И это не говоря уже о войне с применением ИИ и автономном оружии, создание которого необходимо предотвратить любой ценой. Этот сценарий настолько катастрофичен, что мы часто используем его, чтобы скрыть множество других проблем, связанных с ИИ. Без жёсткого регулирования ИИ, которое решило бы перечисленные выше проблемы, общество может погибнуть от тысячи порезов, а не от одного вооружённого удара. Поэтому мы должны добиться, чтобы компании согласились создавать системы, соответствующие человеческим ценностям и морали.

Читайте также:Почему ИИ потребляет так много электроэнергии?

Смягчение социальных и экономических последствий

Необходимы правила, чтобы справедливо вознаграждать людей, чьи данные используются для обучения алгоритмов, которые принесут огромное богатство лишь немногим. Без этого мы лишь повторяем ошибки прошлого и углубляем и без того глубокую экономическую пропасть. Это будет непросто: в этой сфере мало юридических прецедентов, которые могли бы пролить свет на происходящее сегодня.

Важно постоянно защищать мировую экономику от экономических монополий, движимых ИИ. Из-за сетевых эффектов сегодня почти невозможно догнать интернет-гиганта без данных или вычислительных мощностей. Антимонопольное законодательство десятилетиями оставалось практически неизменным, и так больше продолжаться не может. В этом случае регулирование не сделает нас менее конкурентоспособными.

Почему ИИ не следует регулировать?

Подавление инноваций и прогресса

Можно утверждать, что регулирование замедлит развитие и прорывы в сфере ИИ. Что, не давая компаниям возможности тестировать и учиться, оно сделает их менее конкурентоспособными на международной арене. Однако у нас пока нет убедительных доказательств этого. Даже если бы они были, остаётся вопрос: полезно ли для общества в целом безудержное новаторство? Прибыль — не всё. Возможно, ЕС отстанет от Китая и США по числу новых единорогов и миллиардеров. Так ли это страшно, пока у нас есть социальные гарантии, бесплатное здравоохранение, отпуск по уходу за ребёнком и шесть недель отпуска в год?

Если регулирование помешает мультимиллионеру стать миллиардером, так тому и быть.

Читайте также:5 лучших генераторов видео на основе ИИ

Сложное и трудное внедрение

Регулирование технологий, меняющих мир, часто бывает слишком расплывчатым или слишком широким, чтобы его можно было применять на практике. Это может затруднить внедрение и обеспечение соблюдения норм в разных юрисдикциях. Особенно это актуально из-за отсутствия чётких стандартов в этой сфере.

Это делает необходимость соблюдения баланса между международными стандартами и суверенитетом особенно деликатным вопросом. ИИ действует через границы, и его регулирование требует международного сотрудничества и координации. Это может быть непросто из-за разнообразия правовых систем и культурных различий.

Риск избыточного регулирования и непредвиденных последствий

Кроме того, мы знаем, что регулирование часто не успевает за стремительным развитием технологий. ИИ — быстро развивающаяся область, где регулярно появляются новые методы и применения. Постоянно возникают новые вызовы, риски и возможности, и мы должны оставаться достаточно гибкими, чтобы справляться с ними. Следить за достижениями и регулировать передовые технологии может быть непросто для органов управления… но это никогда никого не останавливало, и мир продолжает вращаться.

В будущем правительствам придётся сотрудничать и координировать усилия для создания общих рамок, одновременно продвигая и поощряя обмен знаниями и междисциплинарное сотрудничество. Эти рамки должны быть кооперативными и гибкими, чтобы не отставать от новейших достижений в области ИИ.