Резюме
- Пользователи должны знать, когда ответы генерируются, как меняется персона и используются ли их личные откровения для обучения других систем.
- Экспорт, удаление, лимиты расходов и гуманные правила завершения работы важны до формирования привязанности.
Созданный кодом партнёр может служить репетицией, утешением или развлечением, не будучи человеком, способным дать согласие или разделить ответственность. Сервис при этом записывает очень откровенные разговоры и может оптимизировать вовлечённость или покупки. Провайдеры должны отличать вымысел от обмана, ограждать уязвимых пользователей от манипулятивных подсказок, объяснять изменения модели и предлагать полноценный выход, который не делает воспоминания заложниками. Следующим полезным проверяемым фактом станет тест на закрытие: может ли пользователь получить и удалить запись, остановить списание средств и понять, что останется?
Эмоциональный дизайн заслуживает более строгих мер контроля именно потому, что переживание может казаться реальным.
