AI’s emotional blind spot: Can it ever connect?

• 人工智能可以通过机器学习和大数据模拟情绪，但其情感理解仍然有限。
• 批评者认为，人工智能对数据和算法的依赖限制了它对人类情感的理解。

想象一下，你感到不知所措、焦虑或悲伤，于是寻求帮助。你与一个旨在帮助人们解决心理健康问题的聊天机器人互动，却发现它的回应冰冷、机械且缺乏同理心。聊天机器人会生成诸如“我理解你的担忧”或“让我们一起解决这个问题”之类的短语。但不知何故，你知道这些话不过是算法——仅此而已。尽管聊天机器人可以根据你的语言评估你的情绪并建议有用的技巧，但它仍然缺少一些重要的东西。感觉不像是在和一个真实的人交谈。

这个场景并非假设。像Woebot这样的人工智能聊天机器人，因提供认知行为疗法（CBT）而广受欢迎。Woebot及类似工具因其可及性和即时支持而受到赞誉。然而，批评者认为这些人工智能系统缺少了某种不可替代的东西：真正的情感理解。

人工智能已经从执行简单任务的工具，演变为能够分析情绪、预测行为和模拟人类交互的工具。然而，一个根本问题仍然存在：人工智能真的能理解人类情感吗？是否存在一种根本性的冲突，使得人工智能无法像人类处理情感时那样做出直觉判断？这一局限性是否会影响人工智能在心理健康和客户服务等领域应用的有效性？ 另见: Ziggo集团任命领导人，备战2027年阿姆斯特丹上市.

另请阅读： Meta 发布用于个性化聊天机器人创建的 AI 工作室

另请阅读： Nvidia 的 Clara：用于个性化医疗保健的 AI

情感人工智能的兴起

人工智能在情绪检测和模拟方面的进展令人印象深刻。机器学习算法现在能够分析面部表情、语气甚至文本来识别一个人的情绪状态。这些技术通常被称为情感计算，其潜力巨大。在心理健康和客户服务等领域，AI驱动的聊天机器人和助手变得越来越普遍。它们可以提供即时支持和互动。 另见: AKNET 互联网与信息系统有限公司.

据罗莎琳德·皮卡德（Rosalind Picard）所述，她是一位情感计算领域的先驱，也是麻省理工学院媒体艺术与科学教授，“情感计算正在改变我们与机器交互的方式，并改善机器如何协助涉及人类情感的任务”。这种能力为从心理健康干预到客户支持等广泛应用打开了大门。

例如，像Cleo和Replika这样的AI驱动虚拟助手被设计来模拟共情回应。这些平台声称能为用户提供一个安全的空间来表达情绪并寻求支持。它们分析书面或口头的输入来检测情绪线索，然后以预先编程的解决方案回应，以提供安慰或帮助。

但问题就在这里：虽然人工智能可以模仿共情，但它无法感受共情。珍妮尔·沙恩（Janelle Shane）是一位光学研究员，也是《You Look Like a Thing and I Love You》一书的作者，她解释说：“人工智能可能善于模仿我们认为的情感，但它不会像人类那样体验情感。它只是在遵循数据中的模式。”换句话说，人工智能是一个出色的模仿者，但缺乏定义人类情感的主观体验。

情感计算正在改变我们与机器交互的方式，并改善机器如何协助涉及人类情感的任务。 另见: Azarakhsh Ava-e Ahvaz Co.

罗莎琳德·皮卡德，情感计算先驱，麻省理工学院媒体艺术与科学教授

冲突：数据与人类情感

人工智能情感局限的核心在于它对数据的依赖。人工智能从大量信息中学习——这些信息通常来源于行为数据、文本输入和面部识别系统。通过分析这些输入，人工智能可以预测一个人的情绪状态并相应地调整回应。这个过程对于快乐、悲伤或愤怒等基本情绪状态有效，然而，它无法应对人类情感的复杂性。 另见: Windhoos.

人类情感不易量化。它们由个人经历、文化影响和复杂的心理过程塑造。例如，两个人可能经历同一事件，比如失去亲人，但他们的情感反应会根据各自的生活经历而截然不同。然而，人工智能将情感视为可以测量、分析和预测的数据点。正如珍妮尔·沙恩指出的那样，“人工智能不会像人类那样体验情感”。 另见: EuroNet.

这导致了人工智能数据驱动的本质与人类情感不可预测、细腻特质之间的根本冲突。在心理健康护理等领域，这种冲突尤为明显。虽然像 Woebot 这样的AI工具可以为轻度焦虑或抑郁患者提供基本支持，但在处理更复杂的心理问题时，它们往往力不从心。AI缺乏对背景、历史以及深层情感层的真正理解，意味着它只能提供肤浅的回应。心理学家兼AI专家大卫·卢克斯顿博士在讨论这一点时指出，“人工智能在扩大心理健康疗法的可及性和规模方面非常有效，但它无法复制人类治疗师所能提供的深层情感连接。”这种个人纽带是疗愈过程的核心。”换句话说，AI可以提供一些初步的支持，但它无法提供心理治疗那种深层的关怀和共情。

人工智能不会像人类那样体验情感。 另见: DU jiarui.

珍妮尔·沙恩，人工智能专家

AI在敏感情境中的局限性

以心理健康护理为例。心理健康专业人员花费多年时间研究人类情感，并培养出理解患者复杂情绪状态所需的直觉。他们依靠同理心，即设身处地为他人着想的能力，来提供有效的支持。然而，AI无法复制这种人类特质。它或许能根据一个人的语气或所用词语识别出其沮丧，但它无法理解其痛苦的深度或背后的原因。正如罗莎琳德·皮卡德博士指出的那样，“人工智能在一定程度上可以学习和识别情绪，但它永远无法理解情绪的深度，因为它缺乏人类所拥有的主观体验”。 另见: 弗罗茨瓦夫市政供水与污水处理公司（MPWiK）.

研究表明，当患者与本应提供情感支持的AI系统互动时，他们常常感到更不被理解、更疏远。大卫·卢克斯顿博士警告说，尽管AI可以帮助解决心理健康护理的可及性和可扩展性挑战，但它永远不应取代人类治疗师。“AI可以成为大规模提供治疗的一个宝贵工具，但它无法复制对人类疗愈至关重要的人际连接”，卢克斯顿说。 另见: Vozhd.net.ua.

AI可以成为大规模提供治疗的一个宝贵工具，但它无法复制对人类疗愈至关重要的人际连接。

大卫·卢克斯顿，心理学家兼AI专家

AI在客户服务中也被越来越多地使用，企业部署聊天机器人来处理客户投诉并提供即时的查询回复。但AI的情感局限性在这些情境中也常常显现出来。例如，当客户表达沮丧或不满时，聊天机器人可能能够检测到诸如“生气”或“沮丧”之类的关键词，但它无法提供化解局面所需的同理心。而人类客服人员则能感知到情感底色，并调整回应来安抚客户。

快速测验

以下哪种说法最好地描述了AI在理解和表达人类情感方面的关键局限性？

A. AI可以完美复制人类情感，理解其深度和复杂性

B. AI只能识别基本情绪，但难以理解人类情感的深层复杂性

C. AI在深层共情层面上理解情感，使其成为人类治疗师的理想替代品

D. AI可以完全取代治疗或咨询等情感情境中的人类互动

（正确答案在文章底部）

AI真能真正理解人类情感吗？

尽管存在挑战，但许多专家认为，情感计算有潜力增强人类的情感智力，而非取而代之。在客户服务中，AI可以作为一种工具，通过识别客户互动中的情绪线索来支持人类工作者，从而使客服人员能够以更具情感智能的方式回应。同样，在心理健康护理中，AI可以作为第一接触点，让用户在连接到人类治疗师之前有机会表达自己的感受。

然而，AI所能达到的成就是有限的。Eliza是最早设计用于模拟治疗对话的AI系统之一，它是一个简单的程序，依赖于关键词匹配和预设的回应。尽管在其时代具有革命性，但Eliza无法进行有意义的情感交流，这清楚地表明真正的情感智力需要的不仅仅是模式识别。

前述的罗莎琳德·皮卡德博士认为，AI最终可以被设计来识别和回应更复杂的情绪状态，但她提醒说，它永远无法真正复制人类体验。皮卡德说：“它可以在一定程度上模拟它们，但它缺乏人类所拥有的自我意识和主观体验”。

另请阅读：ELIZA：第一个虚拟助手

AI中情感的未来：增强而非取代同理心

展望未来，AI在情感敏感领域的发展很可能涉及一种混合方法——AI辅助人类工作者而非取代他们。AI分析大量数据并识别模式的能力，在检测情绪变化和提供见解方面可能很有用，但人类对于提供机器无法给予的细腻情感理解仍然不可或缺。

例如，Woebot 对于那些需要快速建议或工具来管理压力或轻度焦虑的用户可能很有效。但对于更深层次的情感问题，则需要人类治疗师提供个性化护理。同样，AI驱动的客服机器人可以对初始咨询进行分类，但仍然需要人类客服人员来处理需要同理心和细腻判断的敏感情况。

最终，AI不会取代人类的情感智力，而是会增强我们以从前不可能的方式回应情感需求的能力。

测验答案

B. AI只能识别基本情绪，但难以理解人类情感的深层复杂性。