Resumen
- La autonomía útil requiere objetivos, sistemas permitidos, límites de gasto y condiciones de parada.
- Las acciones de alto impacto necesitan reversión, evidencia y una escalada humana identificada.
El atractivo de los agentes no es conversar, sino ejecutar por delegación: ordenar información, llamar servicios y completar una cadena de trabajo. La fiabilidad depende tanto de la autoridad concedida como del razonamiento. Deben separarse lectura y cambio, limitar dinero y alcance, confirmar los límites irreversibles y conservar la evidencia de cada decisión. La siguiente prueba combina una petición ambigua con una herramienta que falla. Un agente fiable se detiene, muestra incertidumbre y devuelve el control antes de que el daño se acumule.
