Résumé
- L’autonomie utile exige objectifs, systèmes autorisés, limites de dépense et conditions d’arrêt.
- Les actes importants doivent être réversibles, tracés et reliés à une escalade humaine nommée.
L’intérêt d’un agent IA n’est pas la conversation mais l’exécution déléguée : organiser l’information, appeler des services et terminer une chaîne de travail. Sa fiabilité dépend donc autant de l’autorité accordée que du raisonnement. Il faut séparer lecture et modification, plafonner argent et portée, confirmer les frontières irréversibles et conserver les preuves de chaque décision. Le prochain test soumet une demande ambiguë et un outil défaillant. Un agent fiable s’arrête, expose l’incertitude et rend la main avant que le dommage ne s’accumule.
