- 13 мая Европейский парламент утвердил первый в мире крупный пакет регуляторных норм для искусственного интеллекта — технологии, находящейся в центре технологических инвестиций, — с регулированием, основанным на оценке рисков.
- Законодательство всегда отстаёт от жизни, поэтому на столь стремительном этапе развития критически важны корпоративные регуляторы и консенсус отрасли. Технологические гиганты привносят свой опыт, однако инцидент с OpenAI поставил под сомнение саморегулирование компаний.
- Мировой консенсус, сочетание горизонтального и вертикального регулирования и динамический надзор — учёт этих трёх аспектов может дать идеи для будущего регулирования и саморегулирования ИИ-отрасли.
13 мая Европейский парламент утвердил первый в мире крупный пакет регуляторных норм для искусственного интеллекта — технологии в центре технологических инвестиций, — придав серьёзный регуляторный импульс мировой системе управления ИИ.
Однако формирование глобальной модели управления ИИ должно опираться и на более глубокое понимание технологии ИИ, и на более конструктивное взаимодействие с технологическими гигантами, и на прогресс в осознании регуляторами своей роли.
Классификация AI Act по степени риска
«Я бы сказал, что для регуляторов это оптимальная стратегия при определении требований: попытка распространить регулирование на другие аспекты легла бы чрезмерным бременем на поставщиков моделей, которые в конечном счёте не несут достаточно рисков, чтобы это оправдывалось».
Ortal Shimon, аккаунт-менеджер Hi-Touch PR
Закон ЕС об искусственном интеллекте (AI Act) затрагивает компании во всех отраслях, которые разрабатывают или распространяют ИИ в ЕС, а также компании, использующие системы ИИ, результаты работы которых влияют на жителей ЕС.
Под действие закона подпадают многие участники цепочек создания стоимости ИИ в ЕС, включая само определение «системы ИИ». Определение было расширено и теперь охватывает любую автономную систему на машинной основе, которая «на основе получаемых входных данных определяет, как генерировать выходные данные». С появлением генеративного ИИ закон распространяется также на «модели ИИ общего назначения» (GPAI) — ключевые строительные блоки систем ИИ с широким применением, такие как DALL-E и GPT-4 от OpenAI.
Читайте также:Artificial Intelligence Act: первый в мире закон об ИИ принят в ЕС
На этой основе ЕС разумно решил классифицировать модели ИИ и управлять ими по степени потенциального риска. Это позволяет вести более тонкую и эффективную работу с рисками, сосредоточивая ресурсы и внимание там, где они нужнее всего. Если точнее, применяется риск-ориентированный подход: каждой системе ИИ присваивается класс риска, и к системам с высоким риском предъявляются более жёсткие требования, чем к системам из класса с низким риском.
AI Act определяет четыре уровня риска для систем ИИ: неприемлемый, высокий, ограниченный и минимальный (или нулевой). Чёткая категоризация систем ИИ согласуется с мировыми системами управления рисками, такими как NIST AI RMF и ISO 420001.
Такая чёткая категоризация систем ИИ соответствует мировым подходам к управлению рисками, напримерNIST AI RMFиISO 420001, и повышает прозрачность и подотчётность.
Вечный вопрос: инновации против регулирования
«Помню разговор с одним генеральным директором в Берлине: он вполушутку заметил, что его команда тратит на отслеживание регуляторных требований столько же времени, сколько на создание продукта».
Erik Severinghaus, основатель и генеральный директор Bloomfilter
Как совместить инновации и регулирование — вопрос, который обсуждается и дебатируется с тех пор, как законодательство об ИИ попало в повестку. Пионерская классификация рисков ИИ, предложенная AI Act и включающая четыре уровня по критериям прав человека и безопасности, также получила оценки критиков, практиков ИИ-отрасли и экспертов в области политики и права.
С положительной стороны, эта система категоризации даёт гибкость и позволяет разработчикам создавать менее рискованные ИИ-технологии без лишних регуляторных ограничений. Это способствует творчеству и развитию приложений ИИ в самых разных сферах.
AI Act сосредоточен на системах ИИ с высоким риском, что создаёт определённую нагрузку и барьеры для развития и инноваций в сфере ИИ. Для крупных компаний расширенные требования соответствия могут тормозить технологическое развитие и выход на новые рынки. В то же время высокие барьеры соответствия могут помешать выходу на рынок ИИ новым компаниям и способствовать монополизации. Это также создаёт трудности для небольших и средних ИИ-компаний и исследовательских организаций, которым приходится нести расходы и риски, связанные с соблюдением требований.
Но на самом деле инновации и регулирование — не несовместимые противоречия, ведь в этой паре есть ещё один важный элемент — пользователь. Эффективное регулирование требует прозрачности приложений, а прозрачность укрепляет доверие общества и к ИИ, и к компаниям, которые его создают. Это необходимо для широкого принятия технологии и её встраивания в повседневную жизнь. Акцент на прозрачности позволяет системе классификации ответить на опасения по поводу непрозрачности систем ИИ и способствует большей подотчётности. В долгосрочной перспективе это приносит развитию ИИ больше пользы, чем вреда.
Возможно, поэтому критики склонны оценивать AI Act в целом положительно, называя его очень полным, ставящим во главу угла защиту потребителей, прозрачность и ответственность, — всё это крайне важно для укрепления доверия к технологии ИИ. Но до его реализации и последующего пересмотра ещё очень далеко.
Попытки управления ИИ в других странах
Помимо категоризации рисков ИИ на четыре уровня по правам человека и безопасности, у AI Act есть ещё одно довольно важное новшество: закон запустил процесс горизонтального регулирования ИИ. Раньше регулирование ИИ было в основном вертикальным. Горизонтальное регулирование — это правовые нормы, которые применяются ко всем отраслям и приложениям и охватывают все сферы и всех людей. Именно поэтому закон сочетает строгое регулирование с регуляторными инновациями, например поощряет страны проводить «регуляторные песочницы» и создавать более удобные условия и поддержку для малых и средних предприятий.
В Великобритании, на которую повлиял выход из Евросоюза, законодательство направлено на стимулирование инноваций и одновременно на этичное и ответственное использование ИИ, продвигая прозрачность, подотчётность и справедливость в соответствии с нормами ЕС.
Институт безопасности ИИ Великобритании — недавно созданный британский орган по безопасности искусственного интеллекта — опубликовал в этом месяце набор инструментов под названием Inspect для тестирования безопасности моделей ИИ. Его цель — укрепить безопасность ИИ, упростив разработку оценок ИИ для отрасли, исследовательских организаций и академического сообщества. Этот шаг также согласуется с требованиями AI Act к классификации рисков моделей ИИ.
Китай выбрал более вертикальный подход «сверху вниз», установив более жёсткий контроль за разработкой и внедрением ИИ, особенно в части слежки и конфиденциальности данных. Китайское правительство запустило «План развития искусственного интеллекта нового поколения», который играет важную роль в стандартизации и ориентации развития ИИ на национальные приоритеты.
США доминируют в сфере ИИ: OpenAI запустила Sora — новую мощную платформу преобразования текста в видео, а Google выпустила Gemini 1.5 — модель ИИ нового поколения, способную обрабатывать запросы в 30 раз большего объёма, чем её предшественница. США придерживаются относительно либерального подхода к регулированию ИИ, делая основной упор на стимулирование инноваций и сохранение технологического лидерства и полагаясь на этические рамки и руководства, а не на обязывающие законы.
В октябре 2023 года президент США Joe Biden подписал исполнительный указ, обязывающий разработчиков «самых мощных систем ИИ» предоставлять правительству результаты тестов безопасности и другую критически важную информацию, сославшись на риски для национальной безопасности. Кроме того, США недавно внедрили NIST AI RMF — систему, предназначенную для управления рисками, связанными с системами ИИ. Это отражает растущее признание в американской регуляторной среде важности управления рисками, надлежащего управления и этичного использования технологии ИИ.
Читайте также:Правительство Великобритании привлекает технологических экспертов и дипломатов к историческому саммиту по безопасности ИИ
Общее у этих двух стран — то, что они начинают с вертикального регулирования технологий, связанных с ИИ, которые наиболее вероятно могут поставить под угрозу права людей или социальную стабильность, например технологий дипфейков. Такой подход направляет управление в сторону более высокого потенциального фактора риска.
Викторина
В недавнем регламенте Европейского союза об искусственном интеллекте системы ИИ разделены по потенциальным рискам на четыре категории. Какие?
А. Неприемлемый риск
Б. Высокий риск
В. Ограниченный риск
Г. Умеренный риск
Д. Минимальный (или нулевой) риск
Правильный ответ — в конце статьи.
Саморегулирование уже проверялось на практике
Законодательство всегда отстаёт от жизни, поэтому на столь стремительном этапе развития решающее значение имеют корпоративные нормы саморегулирования и письменный консенсус отрасли.
Google сформулировал собственные принципы в области ИИ, подчёркивающие важность создания социально полезного ИИ, который соблюдает высокие стандарты безопасности и справедливости. Meta также участвует в дискуссиях об управлении системами ИИ, особенно о балансе между инновациями, приватностью и справедливостью при распространении контента.
Microsoft выступает за ответственный ИИ: компания разрабатывает инструменты для выявления и противодействия предвзятости в алгоритмах ИИ и продвигает прозрачность систем ИИ. IBM развивает корпоративную политику этики ИИ через свойСовет по этике ИИ, делая ставку на доверие и прозрачность, чтобы согласовать развитие ИИ с человекоцентричными принципами.
Однако кадровая встряска в OpenAI в конце 2023 года породила дополнительные вопросы об эффективности саморегулирования. Генеральный директор компании,Sam Altman, был уволен некоммерческим советом директоров OpenAI, который был обеспокоен недостаточной осторожностью Altman в действиях и опасностями, которые ИИ может нести обществу.
Согласно документам, поданным OpenAI вIRS, к 2018 году компания перестала заявлять о своей приверженности «открыто делиться нашими планами и возможностями»; к 2021 году её целью стало «создание ИИ общего назначения», что созвучно интересам коммерциализации продуктов, а не открытой исследовательской миссии по «развитию цифрового интеллекта».
Сторонники во главе с самим Sam Altman хотели как можно быстрее предоставить публике новые мощные технологии, продолжая при этом двигаться к настоящему ИИ общего назначения. Хотя вскоре после увольнения Microsoft протянула Altman оливковую ветвь, и в итоге OpenAI снова наняла его, несколько членов совета, которые первоначально его уволили, ушли в отставку. Но это важный урок для будущих регуляторов ИИ: рассчитывать на значимое саморегулирование, особенно через продуманные корпоративные механизмы, — иллюзия.
Читайте также:Разбираем партнёрство OpenAI и Microsoft
Борьба за власть внутри компании и то, как некоммерческому совету в итоге не удалось удержать контроль над всё более коммерциализированным бизнесом, напоминают: если общество хочет замедлить развёртывание этой потенциально исторической технологии, возможно, придётся действовать по старинке — через государственное регулирование сверху.
Перспективы: как сократить разрыв между технологическим прогрессом и запаздывающим управлением?
«Изучать мировое законодательство об ИИ — всё равно что дегустировать сложное вино: каждая страна добавляет свой неповторимый вкус, и порой трудно предсказать, порадует ли оно или оставит горькое послевкусие».
Erik Severinghaus, основатель и генеральный директор Bloomfilter
Мировой консенсус
Достичь мирового консенсуса по регулированию ИИ будет очень непросто. Возьмём, к примеру, AI Act. Принятие закона — только первый шаг, а впереди долгий путь внедрения. Построение глобального регулирования ИИ требует совместных усилий людей, компаний, организаций и государств.
С одной стороны, если европейские правила гораздо строже, чем в других местах с менее жёстким регулированием, это может сделать европейские компании менее конкурентоспособными в мире. С другой стороны, если европейское регулирование будет сильно конфликтовать с саморегулированием, обеспечивать его соблюдение станет гораздо сложнее.
Отсутствие согласованных на мировом уровне классификационных стандартов также может создавать риск регуляторного арбитража. Возьмём AI Act: ЕС выстроил целую систему правоприменения и многоуровневые механизмы надзора и реализации, включая национальных регуляторов государств — членов ЕС и другие инстанции, и это преимущество, которым ЕС может пользоваться по сравнению с отдельными странами.
Сочетание горизонтального и вертикального регулирования
По мере развития технологий ИИ будущее законодательство, вероятно, должно стать ещё более динамичным и адаптивным, возможно, с оценкой рисков в реальном времени и более гибкими регуляторными механизмами. Мировой ландшафт регулирования ИИ динамичен и сложен, и закон ЕС об ИИ — важный шаг, который может повлиять на глобальные стандарты.
Помимо полного и относительно универсального горизонтального регулирования, которое страны и организации будут стремиться ввести, появятся и более отраслевые нормы — особенно в науках о жизни и финансовых услугах.
Динамический надзор
Стремительное развитие технологии ИИ ставит перед нами, без сомнения, огромные задачи. Например, как видно из классификации AI Act, некоторые системы ИИ могут со временем стать более рискованными, чем при первоначальной оценке, а значит, нужны постоянный мониторинг и переоценка, чтобы классы риска оставались корректными.
Кроме того, дальнейшее развитие ИИ, скорее всего, превзойдёт ожидания, заложенные в любом государственном регулировании и корпоративных руководствах. Это требует от законодателей не только глубокого технического видения, но и немедленной корректировки, дополнения и пересмотра соответствующих норм.
Правильный ответ: А, Б, В и Д.