Кратко

  • MAS считает, что финансовая организация сохраняет основную ответственность за используемый ею сторонний ИИ, в том числе встроенный в чужую услугу.
  • Сначала должны появиться надзор совета и перечень применений, затем — полный набор мер на протяжении жизненного цикла. Для высоких рисков меры нужны раньше.

Ответственность следует за применением

Подписывая договор на облачный или программный сервис, финансовая организация не передаёт поставщику свою ответственность перед надзорным органом. В итоговых рекомендациях, опубликованных 7 октября, Валютное управление Сингапура (MAS) указывает: решение подключить и использовать сторонний ИИ остаётся за самой организацией, и основная ответственность за такое применение тоже лежит на ней. Поэтому важен не только владелец модели, но и то, в каком процессе она работает, на кого влияет и насколько организация от неё зависит.

Рекомендации распространяются на все финансовые организации и все формы ИИ. В периметр входят внешние модели, системы, инструменты и сервисы, которые организация закупает, оформляет по подписке, использует через доступ или иным образом задействует в своей деятельности. Туда же относятся встроенный ИИ в продукте подрядчика и системы, которыми подрядчик пользуется при оказании услуги. Даже если в закупочных документах нет слова «ИИ», зависимость всё равно нужно обнаружить. Сообщение MAS представляет эти ожидания как дополнение к действующим законам и правилам, а не как запрет определённого класса технологий.

Организациям следует определить места применения ИИ, вести перечень с подходящей степенью детализации и оценивать каждый сценарий по возможному ущербу, технической и прикладной сложности и степени зависимости. Последняя включает автономность системы и объём человеческого контроля. Перечень можно связать с имеющимися реестрами данных и подрядчиков. Цель — сделать фактическое использование видимым, а не создавать отдельную бюрократию ради ИИ.

Совет директоров либо уполномоченный им комитет утверждает и пересматривает допустимый риск, роли и общий курс. Руководство внедряет правила, назначает операционных ответственных, поднимает существенные риски и отчитывается перед советом. Существующие комитеты подходят, если обеспечивают постоянный и согласованный надзор. Создавать отдельный комитет по ИИ только из-за новых рекомендаций не требуется.

Поставщика придётся проверять по существу

Для значимой внешней системы организация должна проверить её пригодность в реальном сценарии использования; когда это уместно, тесты проводят на собственных данных. Договор должен давать соразмерную риску информацию о подключении ИИ и его последующих изменениях. Кроме того, оцениваются цепочка поставок, концентрация на одном поставщике, управление изменениями, планы на случай сбоев, договорные условия, компетенции сотрудников и сложность системы.

Это не означает, что каждый поставщик обязан раскрыть все технические детали. MAS признаёт, что прозрачность может быть ограниченной. Организации тогда следует зафиксировать пробел и компенсировать его дополнительными тестами или участием человека. Если остаточный риск нельзя удержать в рамках установленного допуска, нужно рассмотреть ограничение, приостановку или замену услуги. Риск не становится управляемым только потому, что скрыт за интерфейсом подрядчика.

Внедрение разбито на этапы. Рекомендации вступают в силу 7 октября 2027 года; к этой дате должны быть выполнены разделы 3 и 4 о надзоре, выявлении, учёте и оценке значимости. Разделы 5 и 6, посвящённые полному жизненному циклу и компетенциям, нужно выполнить до 7 октября 2028 года. Это не общая отсрочка для всех применений на два года: в ответе на консультацию MAS говорит, что для высокорисковых сценариев надлежащие меры жизненного цикла следует вводить как можно раньше.

Для применений с малой вероятностью существенного ущерба достаточно более простых правил, но в них всё равно нужны границы разрешённого использования, ответственные лица, проверка человеком, утверждённый список инструментов, обучение и контроль.

MAS также рассматривает агентный ИИ как развивающуюся область риска. Общие ожидания уже действуют, а в 2027 году регулятор намерен обсудить с финансовым сектором дополнительные рекомендации. Это не действующий запрет и не свидетельство того, что конкретная организация потеряла контроль.

Здесь уместен редакционный вопрос из заметки Хэн Лу № 32: кто сохраняет возможность видеть и решать после делегирования? Заметка посвящена управлению интернетом и служит только аналогией, а не источником фактов о финансовых правилах Сингапура. Вывод следует из документов MAS: если организацией разрешено применение, ответственность остаётся у неё, хотя исполнение зависит от внешней цепочки.

Источники