Кратко

  • The Pensions Regulator оставляет ответственность за внутреннее и подрядное применение ИИ за попечителями пенсионных схем.
  • Обновление может добавить ИИ в действующее ПО; схема должна отслеживать применение, изменения, человеческую проверку и исправление вреда участникам.

Если ИИ-сервис становится недоступен, пенсионный план должен продолжить работу. Руководство The Pensions Regulator (TPR) требует учитывать такие зависимости в планах непрерывности и выхода из соглашения. Вопрос поэтому не только в точности модели: кто замечает изменение и кто поддерживает процесс без ИИ?

TPR указывает, что ИИ может появиться внутри уже используемого ПО после обновления и не обозначаться как отдельный инструмент. Это может произойти в течение срока договора. Значимые применения следует оценить до соглашения и пересматривать при существенных изменениях модели, данных, функции, доступа или масштаба.

Подробное руководство от 29 октября сохраняет ответственность за процессы плана за попечителями — и при внутреннем использовании, и при работе через администратора, консультанта или другого подрядчика. Они должны знать, какие решения затронуты, какие данные обрабатываются, кто отвечает за применение и как человек может оспорить или отменить результат.

Общей политики поставщика недостаточно для оценки конкретной услуги. TPR требует от попечителей получать относящиеся к ней гарантии: выяснять, как защищены данные и доступ, кто проверяет результаты, что записывают журналы, куда передают инциденты и как продолжается услуга при сбое либо остановке системы.

Когда ИИ способствует ошибке или ущербу, попечители должны это выявить, передать вопрос на рассмотрение, исправить запись или процесс и обеспечить надлежащее возмещение либо иной способ исправления. Если применение влияет на опыт или результат участника, плану следует объяснить, что ему важно знать и где получить помощь. Руководство связывает надзор с доступным человеческим рассмотрением, а не только с техническим мониторингом.

TPR применяет действующие обязанности к ИИ, не вводя отдельный свод правил. В качестве инструментов названы реестр применений, журнал рисков, план непрерывности, эскалация и текущая оценка. Сортировка внутренних документов и система, которая взаимодействует с участниками или влияет на важный процесс, требуют разного уровня контроля.

В руководстве нет перечня ИИ по пенсионным планам или общего числа систем; такую картину могли бы дать опубликованный реестр или результаты проверок. Сейчас планам нужно строить надзор по собственным договорам и записям: знать, какие функции появились и как продолжить работу при их отказе.

Источники: подробное руководство TPR по ИИ; сообщение от 29 октября; план TPR по ИИ.