Resumen

  • Una actualización puede añadir IA a un programa existente sin presentarla como un producto separado; el contrato inicial deja de describir por sí solo todo el servicio.
  • Si la IA influye en el resultado de un miembro, el plan debe poder explicar la decisión, permitir revisión humana y corregir el caso.

Cuando la IA afecta a la experiencia o al resultado de un miembro, TPR pide a los trustees que decidan qué necesita entender esa persona y dónde puede recibir apoyo. La pregunta no es qué nombre tiene el modelo, sino quién puede explicar una decisión y abrir una revisión.

El proveedor puede operar el software. La responsabilidad por la administración del plan y sus decisiones sigue en los trustees, también cuando una tarea se externaliza. La guía detallada, publicada el 29 de octubre, aplica las obligaciones existentes al uso de IA.

La ruta de cambio puede empezar después de firmar. TPR advierte que la IA puede llegar integrada en un programa existente, añadirse mediante una actualización y no aparecer como herramienta independiente. Por eso, los trustees deben evaluar los usos relevantes antes de contratar y volver a examinarlos si cambian el modelo, los datos, la función, los accesos o la escala.

Una política corporativa genérica no demuestra cómo funciona el servicio contratado. La garantía debe referirse a ese servicio: qué datos trata, quién revisa los resultados, qué registros conserva el proveedor, cómo escala un problema y cómo continúa el trabajo si el sistema falla.

El consejo necesita poder reconstruir una decisión: qué información se usó, qué comprobó una persona y por qué se aceptó o rechazó el resultado. Los miembros deben poder cuestionar la decisión; si la IA contribuye a un error o perjuicio, el plan necesita detectarlo, escalarlo, corregir el registro o proceso y ofrecer la reparación adecuada.

La intensidad del control depende del uso. Un clasificador de documentos internos no plantea el mismo trabajo que un sistema que se comunica con miembros o influye en decisiones relevantes. TPR propone registros de uso, evaluación de riesgos, continuidad, escalado y seguimiento para que cada plan ajuste sus controles al servicio real.

TPR no publica un inventario de sistemas por plan ni un recuento de despliegues; falta ese dato para medir la adopción del sector. Cada consejo sí puede pedir qué cambió, qué decisión puede influir el sistema y quién revisará una impugnación.

Fuentes: guía detallada de TPR sobre IA; anuncio del 29 de octubre; plan de IA de TPR.