AI の感情的盲点：つながることはできるのか？

BTW Media は、「AI の感情的盲点：つながることはできるのか？」を、公開証拠がインターネットインフラ、ガバナンス、運用依存関係、または市場可視性に結びついているため、プロファイルしています。

• AI は機械学習とビッグデータによって感情を模倣できるが、感情の理解は限定的である。
• 批評家は、AI のデータとアルゴリズムへの依存が人間の感情の理解を制限すると主張している。

圧倒されたり、不安になったり、悲しくなって助けを求める場面を想像してみてください。メンタルヘルスの問題を抱える人々を助けるために設計されたチャットボットとやり取りすると、その返答が冷たく、機械的で、共感に欠けていることに気づきます。チャットボットは「ご心配を理解しています」や「一緒にこれを乗り越えましょう」といったフレーズを生成します。しかし、どこかでその言葉は単なるアルゴリズムに過ぎないと分かっています。チャットボットがあなたの言葉から気分を評価し、役立つアドバイスを提案できたとしても、何か本質的なものが欠けています。本当の人と話している感じがしないのです。

このシナリオは仮定の話ではありません。Woebotなどの AI 搭載チャットボットは、認知行動療法（CBT）を提供することで人気があります。Woebot や同様のツールは、アクセスのしやすさと即時のサポートで評価されています。しかし、批評家たちは、これらの AI システムにはかけがえのない何か、すなわち真の感情理解が欠けていると主張しています。

人工知能は、単純なタスクを実行するツールから、感情を分析し、行動を予測し、人間のやり取りをシミュレートできるシステムへと進化しました。しかし、根本的な問題が残っています。AI は本当に人間の感情を理解できるのか？AI が感情を扱う際に人間と同じ直感的な判断を下すのを妨げる根本的な矛盾があるのでしょうか？この制限は、メンタルヘルスやカスタマーサービスの分野における AI の応用の有効性に影響を与えるのでしょうか？

あわせて読みたい：Meta、パーソナライズされたチャットボット作成のための AI Studio を発表

あわせて読みたい：Nvidia の Clara：パーソナライズされた医療のための AI

感情的に知的な AI の台頭

感情の検出と模倣における AI の進歩は実に印象的です。機械学習アルゴリズムは現在、顔の表情、声のトーン、さらにはテキストを分析して、人の感情状態を特定することができます。これらの技術はしばしばアフェクティブ・コンピューティングと呼ばれ、その可能性は計り知れません。メンタルヘルスやカスタマーサービスの分野では、AI が駆動するチャットボットやアシスタントがますます一般的になっています。それらは即時のサポートと対話を提供できます。

アフェクティブ・コンピューティングの先駆者で、MIT のメディア芸術科学教授であるRosalind Picardによると、「アフェクティブ・コンピューティングは、私たちが機械と対話する方法を変革し、機械が人間の感情を伴うタスクで私たちを支援する方法を改善します」。この能力は、メンタルヘルス介入からカスタマーサポートまで、幅広い応用への道を開きました。

例えば、CleoやReplikaのような AI 搭載の仮想アシスタントは、共感的な反応をシミュレートするように設計されています。これらのプラットフォームは、ユーザーが感情を表現し、サポートを求めるための安全な空間を提供すると主張しています。それらは書かれた入力や口頭入力を分析して感情の手がかりを検出し、それから慰めたり助けたりするための事前プログラムされた解決策で応答します。

しかし、そこに問題があります。AI は共感を模倣できても、それを感じることはできません。光学研究者であり、「You Look Like a Thing and I Love You」の著者であるJanelle Shaneは、「AI は私たちが感情と見なすものを模倣するのが得意かもしれませんが、人間と同じようには感情を感じていません。データのパターンに従っているだけです」と説明しています。言い換えれば、AI は優れた模倣者ですが、人間の感情を定義する主観的な経験が欠けています。

アフェクティブ・コンピューティングは、私たちが機械と対話する方法を変革し、機械が人間の感情を伴うタスクで私たちを支援する方法を改善します

Rosalind Picard、アフェクティブ・コンピューティングの先駆者、MIT メディア芸術科学教授

対立：データ vs 人間の感情

AI の感情的な限界の核心は、データへの依存にあります。AI は、行動データ、テキスト、顔認識システムなど、膨大な量の情報から学習します。これらの入力を分析することで、AI は人の感情状態を予測し、それに応じて応答を調整できます。このプロセスは、喜び、悲しみ、怒りなどの基本的な感情状態には効果的に機能します。しかし、人間の感情の複雑さを捉えることはできません。

人間の感情は簡単に定量化できるものではありません。それらは個人的な経験、文化的な影響、複雑な心理的プロセスによって形成されます。例えば、同じ出来事、例えば愛する人の死を経験しても、二人の人の感情的な反応は、各人の人生経験によって大きく異なります。しかし、AI は感情を測定、分析、予測可能なデータポイントとして扱います。Janelle Shane が指摘したように、「AI は人間のように感情を感じません」。

これは、AI のデータ駆動型の性質と、人間の感情の予測不可能で微妙な質との間の根本的な矛盾につながります。メンタルヘルスケアのような分野では、この矛盾が特に顕著です。Woebot のような AI ツールは、軽度の不安やうつに苦しむ人に基本的なサポートを提供できますが、より複雑な心理的問題になると不十分なことが多いです。AI が真に文脈、履歴、根底にある感情の層を理解できないため、表面的な応答しか提供できません。心理学者で AI の専門家であるDavid Luxton博士は、この点について「AI はメンタルヘルス治療のアクセス性と規模を拡大するのに非常に効果的ですが、人間のセラピストが提供できる深い感情的なつながりを再現することはできません。この個人的なつながりが癒しのプロセスの中心です」と述べています。言い換えれば、AI は初期のサポートを提供できますが、心理療法の深いケアと共感を提供することはできません。

AI は人間のように感情を感じません

Janelle Shane、人工知能の専門家

デリケートな文脈における AI の限界

メンタルヘルスケアを例に取ります。メンタルヘルスの専門家は、人間の感情を研究し、患者の複雑な感情状態を理解するための直感を養うのに何年も費やします。彼らは共感、つまり他人の立場に立つ能力に頼って効果的なサポートを提供します。一方、AI はこの人間的な特質を再現できません。声のトーンや使われている言葉に基づいて人が動揺していると認識することはできますが、その苦痛の深さや背後にある理由を理解することはできません。Rosalind Picard 博士が強調したように、「AI はある程度感情を学習し認識することはできますが、人間が持つ主観的な経験を欠いているため、感情の深さを真に理解することは決してできません」。

研究によると、感情的なサポートを提供するとされる AI システムとやり取りするとき、患者はしばしば理解されていないと感じ、より疎外感を覚えることが示されています。David Luxton 博士は、AI がメンタルヘルスケアのアクセス性と拡張性の課題に対処するのに役立つとしても、人間のセラピストに取って代わるべきではないと警告しています。「AI は大規模に治療を提供するための貴重なツールとなり得ますが、治癒に不可欠な人間的なつながりを再現することはできません」と Luxton は述べています。

AI は大規模に治療を提供するための貴重なツールとなり得ますが、治癒に不可欠な人間的なつながりを再現することはできません

David Luxton、心理学者、AI 専門家

AI はカスタマーサービスでもますます利用されており、企業はチャットボットを展開して顧客の苦情を処理し、問い合わせに即座に回答しています。しかし、AI の感情的な限界はそうした状況でもしばしば明らかになります。例えば、顧客が不満や失望を表明したとき、チャットボットは「怒っている」や「イライラしている」などのキーワードを検出できるかもしれませんが、状況を落ち着かせるのに必要な共感を提供することはできません。一方、人間のカスタマーサービス担当者は、感情のニュアンスを感じ取り、顧客を慰めるために応答を調整できるでしょう。

クイズ

次の記述のうち、AI が人間の感情を理解し表現する際の重要な限界を最もよく説明しているのはどれですか？

A. AI は人間の感情を完璧に再現でき、その深さと複雑さを理解している

B. AI は基本的な感情を認識できるだけであり、人間の感情の根底にある複雑さを理解するのに苦労する

C. AI は深い共感レベルで感情を理解しており、人間のセラピストの理想的な代替となる

D. AI はセラピーやカウンセリングなどの感情的な場面で、人間のやり取りを完全に置き換えることができる

（正解は記事の下部にあります）

AI はいつか本当に人間の感情を理解できるようになるのか？

課題にもかかわらず、多くの専門家は、アフェクティブ・コンピューティングは人間の感情的知性を置き換えるのではなく、向上させる可能性があると考えています。カスタマーサービスでは、AI は顧客とのやり取りの中で感情的な手がかりを特定することで、人間の作業員をサポートするツールとして使用できます。これにより、人間のエージェントはより感情的に知的な対応ができるようになります。同様に、メンタルヘルスケアでは、AI は最初の接点として機能し、ユーザーが人間のセラピストにつながる前に自分の感情を表現する機会を提供することができます。

しかし、AI が達成できることには限界があります。治療的な会話をシミュレートするために設計された初期の AI システムの一つであるElizaは、キーワードマッチングとスクリプト化された応答に依存するシンプルなプログラムでした。当時としては画期的でしたが、Eliza が意味のある感情的なやり取りを行えないことは、真の感情的知性にはパターン認識以上のものが必要であることを明確に示しました。

前述の Rosalind Picard 博士は、AI がより複雑な感情状態を認識し対応するように設計される可能性はあるものの、人間の経験を真に再現することは決してできないと警告しています。Picard は「ある程度は模倣できますが、人間が持つ自己認識と主観的な経験が欠けています」と述べています。

あわせて読みたい：ELIZA：最初の仮想アシスタント

AI における感情の未来：共感を増強し、置き換えない

将来的に、感情的に敏感な分野での AI の将来は、おそらくハイブリッドなアプローチを伴い、AI が人間の労働者を置き換えるのではなくサポートするものになるでしょう。AI が大量のデータを分析しパターンを特定する能力は、感情の変化を検出し洞察を提供するのに役立ちますが、人間は機械が提供できない微妙な感情理解を提供するために不可欠であり続けます。

例えば、Woebot は、ストレスや軽度の不安を管理するための簡単なアドバイスやツールを必要とするユーザーには効果的かもしれません。しかし、より深い感情的問題には、個別のケアを提供するために人間のセラピストが必要です。同様に、AI 駆動のカスタマーサービスボットは最初の問い合わせを振り分けることができますが、共感と微妙な判断を必要とする敏感な状況に対処するには、依然として人間のエージェントが必要です。

最終的に、AI は人間の感情的知性に取って代わるのではなく、これまで不可能だった方法で感情的なニーズに対応する能力を強化するでしょう。

クイズの答え

B. AI は基本的な感情を認識できるだけであり、人間の感情の根底にある複雑さを理解するのに苦労する。