摘要
- 用户应知道回复由系统生成、角色如何变化,以及私密表达是否用于训练其他系统。
- 数据导出、删除、支出上限和体面关闭规则应在依恋形成前准备。
代码构成的伴侣可以提供练习、安慰或娱乐,却不是能够同意并分担责任的人。服务仍会记录高度私密的对话,并可能优化互动时长或购买行为。服务方应区分虚构与欺骗,避免对脆弱用户使用操纵式提示,解释模型变更,并提供不会把记忆当作人质的完整退出。下一项有效证据是关闭测试:用户能否取得并删除记录、停止扣费,并清楚知道还保留什么?正因为体验可能很真实,情感设计更需要严格控制。


