Resumo

  • Uma atualização pode levar IA ao software previdenciário já contratado, sem um produto novo para o conselho aprovar.
  • Se a IA afetar um participante, o plano precisa explicar o resultado e oferecer revisão humana, contestação e correção.

O participante não precisa descobrir qual versão de software mudou. Precisa saber por que recebeu determinado resultado e onde pedir revisão se a IA tiver influenciado a decisão. A orientação de TPR manda os trustees definir o que a pessoa precisa entender e como obter apoio quando a IA afeta sua experiência ou resultado.

A responsabilidade continua no plano, mesmo quando o prestador opera o sistema. A orientação publicada em 29 de outubro aplica os deveres existentes a processos internos e terceirizados; a assinatura de um contrato não transfere aos trustees o controle técnico do fornecedor, mas também não transfere a responsabilidade do plano.

O problema começa quando o contrato vira uma fotografia antiga do serviço. A IA pode vir embutida num programa existente, entrar numa atualização durante o contrato e não ser apresentada como ferramenta separada. Por isso, os trustees devem mapear usos relevantes antes de contratar e reavaliá-los quando mudarem modelo, dados, função, acesso ou escala.

Uma política geral de IA do fornecedor não descreve necessariamente o serviço comprado pelo plano. Os trustees precisam de informação ligada àquele serviço: dados tratados, responsáveis, registros e logs, revisão dos resultados, escalonamento de problemas e continuidade quando o sistema falhar.

O conselho deve conseguir reconstruir a decisão: qual informação entrou, que checagem humana ocorreu e por que a saída foi aceita ou recusada. O participante precisa conseguir contestá-la. Se a IA contribuir para erro ou dano, o plano deve identificar o caso, encaminhá-lo, corrigir o registro ou processo e oferecer reparação adequada.

A supervisão acompanha o efeito do uso. Uma ferramenta que organiza documentos internos pede controles diferentes de um sistema que conversa com participantes ou influencia decisões importantes. TPR sugere cadastro de usos, registro de riscos, plano de continuidade, escalonamento e monitoramento para que cada plano ajuste o controle ao serviço contratado.

TPR não publica um inventário por plano nem o total de sistemas em uso; esse dado falta para medir a escala setorial. Cada conselho já pode pedir ao prestador o histórico de mudanças, as decisões afetadas e o caminho humano de revisão e correção.

Fontes: orientação detalhada de TPR sobre IA; comunicado de 29 de outubro; plano de IA da TPR.