Resumen
- La IA debe evaluarse por las acciones permitidas, la evidencia visible y la vía de corrección humana.
- Un piloto necesita precisión por tarea, excepciones, tiempo de supervisión y pruebas de reversión.
Inteligencia artificial abarca técnicas que detectan patrones, generan resultados o eligen acciones a partir de datos. Esa amplitud sirve para describir el campo, no para aprobar un despliegue. Un asistente de texto, un clasificador de fraude y un proceso autónomo plantean fallos diferentes.
El primer control es la autoridad. Un sistema de bajo riesgo propone texto que alguien acepta o rechaza. Otro puede modificar clientes, bloquear pagos o iniciar trabajo técnico. Este último exige permisos explícitos, registro duradero, evidencia comprensible y una persona responsable de revertir el resultado.
El rendimiento debe medirse dentro del proceso: salida aceptada, acción falsa, excepción perdida, minutos de comprobación, recuperación tras una falla y comportamiento cuando cambian los datos. Si aumenta los casos que humanos deben investigar, la automatización quizá traslade el coste.
Disponibilidad, latencia, tratamiento de datos y cambios del proveedor también pueden alterar el servicio después del ensayo. Las decisiones críticas necesitan una ruta manual o alternativa y registros portables.
La evidencia convincente sería un piloto vigilado sobre una tarea fija, con límite de decisión y tasa de corrección publicados. La demostración prueba que algo es posible; no que funcione de forma fiable.
