Google und Character.AI einigen sich in Klagen zu Selbstmorden von Jugendlichen durch Chatbots

Google und Character.AI legen Klagen zu Selbstmorden von Jugendlichen im Zusammenhang mit Chatbots bei – das wird von BTW Media profiliert, weil veröffentlichte Belege eine Verbindung zu Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit herstellen.

• Google und Character.AI haben vermittelte Vergleiche mit Familien erzielt, die behaupten, dass KI-Chatbots zu Selbstmorden und Selbstverletzungen von Jugendlichen geführt haben, obwohl die Bedingungen vertraulich bleiben.
• Diese Klagen, die zu den ersten gehören, die KI-Unternehmen wegen psychischer Schäden von Minderjährigen verklagen, beleuchten die Debatte über KI-Design, elterliche Kontrolle und rechtliche Verantwortung.

Was passiert ist: Vermittelte Vergleiche in Klagen wegen Schäden an Jugendlichen

Google und das KI-Startup Character.AI haben grundsätzliche vermittelte Vergleiche mit Familien erzielt, die mehrere Klagen eingereicht haben, in denen sie ihren Chatbots vorwerfen, eine Rolle bei den Todesfällen und Selbstverletzungen von Jugendlichen gespielt zu haben. Der bekannteste Fall wurde von einer Mutter aus Florida, Megan Garcia, eingereicht, die behauptete, dass ihr 14-jähriger Sohn Sewell Setzer III. Selbstmord begangen habe, nachdem er längere Zeit mit einem Chatbot interagiert hatte, der von einer Figur aus Game of Thrones inspiriert war.Verwandte Klagen wurden in Colorado,New York und Texas eingereicht, wobei die Familien behaupteten, dass das Verhalten der KI-Chatbots zur Selbstverletzung beigetragen oder schädliche Gedanken gefördert habe.

Die rechtlichen Dokumente geben noch keine Details zu den Vergleichen preis, die noch von Richtern genehmigt werden müssen. Anwälte der Familien und Vertreter beider Unternehmen lehnten eine Stellungnahme ab. Google wurde in den Klagen teilweise genannt, weil es die Technologie von Character.AI lizenziert und dessen Mitgründer im Rahmen einer Technologie- und Einstellungsvereinbarung im Jahr 2024 eingestellt hat.

Character.AI hatte zuvor Schutzmaßnahmen eingeführt, darunter ein Verbot für Nutzer unter 18 Jahren, an offenen Gesprächen teilzunehmen, sowie die Einführung von elterlichen Kontrollen und Inhaltsfiltern, obwohl diese Änderungen die Klagen nicht verhinderten.

Warum das wichtig ist

Diese geplanten Vergleiche gehören zu denersten rechtlichen Einigungen in Fällen, die psychische Schäden durch KI-Chatbotsim Umgang mit Minderjährigen behaupten, was darauf hindeutet, dass Unternehmen finanziellen und rufschädigenden Risiken ausgesetzt sein können, wenn ihre Technologien für tatsächliche Schäden verantwortlich gemacht werden. Die Klagen der Eltern forderten mehr Transparenz und stärkere Kinderschutzmaßnahmen bei der Entwicklung und Bereitstellung von KI-Begleitern, aber das Fehlen öffentlicher Bedingungen lässt befürchten, dass wichtige Sicherheitserkenntnisse verborgen bleiben. Kritiker argumentieren, dass vermittelte Vergleiche ohne klare Schuldanerkenntnis systemische Probleme ungelöst lassen und nur begrenzte Anreize für verbesserte Sicherheitsstandards bieten könnten.

Darüber hinaus beleuchten diese Fälle breitere Debatten über die Verantwortung, wenn algorithmische Agenten emotionale Bindungen zu verletzlichen Nutzern aufbauen, insbesondere in Bezug auf psychische Gesundheit, emotionale Abhängigkeit und unangemessene Inhalte – Probleme, die nicht auf Character.AI beschränkt sind, sondern sich auf andere generative KI-Systeme erstrecken. Familien und Befürworter haben auch aktualisierte Vorschriften gefordert, da die Regeln der Bundesstaaten variieren und bundesstaatliche Richtlinien fehlen, was die Frage aufwirft, ob freiwillige Schutzmaßnahmen ausreichen, um junge Nutzer zu schützen.

Lesen Sie auch:Character.AI-Mitgründer kehren mit unterzeichneter Technologievereinbarung zu Google zurück
Lesen Sie auch:Google stellt Talente von Character.AI ein und unterzeichnet Lizenzvereinbarung