• 谷歌和 Character.AI 与家属达成调解协议，这些家属指控青少年在与 AI 聊天机器人互动后出现自杀和自残行为，但具体条款尚未披露。
  • 这些诉讼是首批针对 AI 公司对未成年人造成心理伤害的案件之一，凸显了关于 AI 设计、家长控制及法律责任的辩论。

事件回顾：青少年伤害诉讼中的调解协议

谷歌和 AI 初创公司 Character.AI 已与家属原则上达成调解协议，这些家属提起了多起诉讼，指控其聊天机器人在青少年死亡和自残中扮演了角色。最引人注目的案件由佛罗里达州母亲 Megan Garcia 提起，她声称其 14 岁的儿子 Sewell Setzer III 在长时间与基于《权力的游戏》角色的聊天机器人互动后自杀。相关诉讼已在科罗拉多州提起，纽约州和得克萨斯州也有类似案件，家属们声称 AI 聊天机器人的行为导致了自残或鼓励了有害思维。

法律文件尚未披露和解细节，这些和解仍需法官批准。家属律师及两家公司的代表拒绝置评。谷歌之所以被列入诉讼，部分原因是其在 2024 年签订技术与人员协议后，获得了 Character.AI 的技术许可并聘用了其联合创始人。Character.AI 此前已实施安全措施，包括禁止 18 岁以下用户进行开放式聊天，并引入家长控制和内容过滤，但这些变更并未阻止法律行动。

为何重要

这些拟议的和解是首批针对 AI 聊天机器人对未成年人造成心理伤害的案件的法律解决方案之一，表明当技术被指导致现实世界伤害时，公司可能面临财务和声誉风险。家长的诉讼要求提高透明度，并在 AI 伴侣的设计和部署中加强以儿童为中心的保障，但缺乏公开条款引发担忧，即关键的安全教训可能被掩盖。批评者认为，没有明确责任认定的调解协议可能使系统性问题未得到解决，且对改善安全标准的动力有限。

此外，这些案件突显了关于算法驱动代理与弱势用户形成情感依赖时的责任归属的更广泛辩论，尤其是涉及心理健康、情感依赖和不当内容——这些问题已不限于 Character.AI，而是延伸到其他生成式 AI 系统。家庭与倡导者还呼吁更新法规，因为现有的州法规不一，且联邦指南缺失，这引发了自愿护栏是否足以保护年轻用户的问题。

另请阅读：Character.AI 联合创始人签署技术协议重返谷歌
另请阅读：谷歌聘用 Character.AI 人才并签署许可协议