Google と Character.AI、10 代の自殺に関する訴訟で和解、チャットボット関連

Google と Character.AI の 10 代の自殺に関する訴訟和解は、公開された証拠がインターネットインフラ、ガバナンス、運用依存性、または市場の可視性に関連付けているため、BTW Media によってプロファイルされています。

• Google と Character.AI は、10 代の自殺や自傷行為が AI チャットボットとのやり取りの後に発生したと主張する家族との調停による和解を受け入れたが、条件は非公開のままだ。
• これらの訴訟は、未成年者への心理的被害を理由に AI 企業を標的とする初の事例の一部であり、AI の設計、ペアレンタルコントロール、法的責任に関する議論を浮き彫りにしている。

何が起きたか：10 代の被害に関する訴訟での調停和解

Google と AI スタートアップ Character.AI は、チャットボットが 10 代の死や自傷行為に関与したとして複数の訴訟を起こした家族と、調停による基本合意に達した。最も注目された事件は、フロリダ州の母親 Megan Garcia が、14 歳の息子 Sewell Setzer III がゲーム・オブ・スローンズのキャラクターに着想を得たチャットボットとの長期にわたるやり取りの後に自殺したと主張したものだ。関連する訴訟はコロラド州、ニューヨーク州、テキサス州でも提起されており、家族らは AI チャットボットの行動が自傷行為を助長したり、有害な思考を促したりしたと述べている。

法的文書はまだ和解の詳細を明らかにしておらず、判事の承認が必要だ。家族側の弁護士と両社の代表者はコメントを控えた。Google が訴訟で名指しされた理由の一つは、同社が Character.AI の技術をライセンス供与し、2024 年の技術・採用契約に伴い共同創設者を雇用したためだ。Character.AI は以前に、18 歳未満のユーザーがオープンな会話に参加することを禁止するなどの保護策を導入し、ペアレンタルコントロールやコンテンツフィルターも追加したが、こうした変更は訴訟を防ぐには至らなかった。

なぜ重要なのか

これらの和解案は、未成年者とやり取りする AI チャットボットによる心理的被害を主張する事例における初の法的解決の一部であり、企業が自社のテクノロジーが実際の危害に対して責任があると判断された場合に、財務的・評判的リスクに直面し得ることを示している。親たちの訴訟は、AI コンパニオンの設計と展開においてより高い透明性と子ども向けの強固な安全策を求めたが、公的な条件が存在しないため、重要な安全上の教訓が隠されてしまう懸念がある。批判派は、明確な責任の認識を伴わない調停和解は、システム上の問題を未解決のままにし、安全性基準の改善へのインセンティブを限定的なものにする可能性があると主張する。

さらに、これらの事件は、アルゴリズムエージェントが脆弱なユーザーとの間に感情的な絆を形成する場合の責任について、より広範な議論を浮き彫りにする。特にメンタルヘルス、感情的依存、不適切なコンテンツに関わる問題で、Character.AI だけにとどまらず、他の生成的 AI システムにも及ぶ。家族や支援者は、各州の規則が異なり連邦のガイドラインが存在しない中で、自主的な安全策で若年ユーザーを保護するのに十分かどうかという疑問を提起し、更新された規制を求めてきた。

併せて読みたい：Character.AI の共同創設者が技術契約を締結し Google に復帰
併せて読みたい：Google が Character.AI の人材を採用しライセンス契約を締結