Резюме
- Успешное выполнение конкретной задачи не означает общего понимания или безопасного переноса в новую среду.
- Операторам нужны тесты на дрейф, правила отказа и передача управления, когда входные данные выходят за пределы проверенного диапазона.
Узкий ИИ создаётся для ограниченного класса прогнозов или действий. Его ценность обусловлена специализацией, но из неё же вытекает и риск: пользователи могут предположить, что система понимает контекст, на котором её никогда не проверяли. При развёртывании следует публиковать допустимый диапазон входных данных, известные режимы отказов и ответственного, которому передаются исключительные случаи. Мониторинг должен выявлять изменения данных или поведения.
Следующее полезное свидетельство — это не более широкое утверждение об интеллекте, а запись о том, что система отказывается, передаёт вопрос дальше и восстанавливается на границе своей компетенции.
