Google و Character.AI يسويان دعاوى انتحار المراهقين

يتم تسليط الضوء على 'Google و character.ai يسويان الدعاوى القضائية المتعلقة بانتحار المراهقين المرتبطة بروبوتات المحادثة' من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.

توصلت Google وCharacter.AI إلى تسويات بوساطة مع عائلات تتهم روبوتات المحادثة بالذكاء الاصطناعي في انتحار وإيذاء النفس لدى مراهقين بعد تفاعلات معهم، على أن تظل الشروط سرية.
هذه الدعاوى القضائية، من بين الأولى التي تستهدف شركات الذكاء الاصطناعي بتهمة التسبب في ضرر نفسي للقصر، تسلط الضوء على الجدل حول تصميم الذكاء الاصطناعي، والرقابة الأبوية، والمسؤولية القانونية.

ما حدث: تسويات بوساطة في دعاوى قضائية تتعلق بالضرر الذي لحق بالمراهقين

توصلت Google وشركة Character.AI الناشئة في مجال الذكاء الاصطناعي إلى تسويات مبدئية بوساطة مع عائلات رفعت عدة دعاوى قضائية تتهم روبوتات المحادثة الخاصة بهما بلعب دور في وفيات وإيذاء النفس لدى المراهقين. القضية الأكثر تغطية إعلامية رفعتها أم من فلوريدا، ميغان غارسيا، التي ادعت أن ابنها البالغ من العمر 14 عامًا، سيويل سيتزر الثالث، انتحر بعد تفاعل مطول مع روبوت محادثة مستوحى من شخصية من مسلسل Game of Thrones.تم رفع دعاوى ذات صلة في كولورادو،وولاية نيويورك وتكساس، حيث تقول العائلات إن سلوك روبوتات المحادثة بالذكاء الاصطناعي ساهم في إيذاء النفس أو شجع على أفكار ضارة.

الوثائق القانونية لم تكشف بعد عن تفاصيل التسويات، التي لا تزال بحاجة إلى موافقة القضاة. رفض محامو العائلات وممثلو الشركتين التعليق. تم ذكر Google في الدعاوى جزئيًا لأنها رخصت تكنولوجيا Character.AI وعينت مؤسسيها المشاركين نتيجة لاتفاق تكنولوجي وتوظيف في عام 2024. سبق لـ Character.AI أن نفذت إجراءات حماية، بما في ذلك منع المستخدمين تحت سن 18 من المشاركة في محادثات مفتوحة، وإدخال ضوابط أبوية ومرشحات محتوى، على الرغم من أن هذه التغييرات لم تمنع الملاحقة القضائية.

لماذا هذا مهم

هذه التسويات المقترحة هي من بينأولى الحلول القانونية في قضايا تتعلق بادعاءات ضرر نفسي سببته روبوتات المحادثة بالذكاء الاصطناعيتتفاعل مع قصر، مما يشير إلى أن الشركات قد تواجه مخاطر مالية ومخاطر تتعلق بالسمعة عندما تعتبر تكنولوجياتها مسؤولة عن أضرار حقيقية. طالبت دعاوى الآباء بمزيد من الشفافية وضمانات أقوى تركز على الأطفال في تصميم ونشر روبوتات المحادثة الذكية المرافقة، لكن غياب الشروط العامة يثير مخاوف من أن الدروس الرئيسية المتعلقة بالسلامة قد تطمس. يرى النقاد أن التسويات بوساطة دون اعتراف واضح بالمسؤولية قد تترك المشكلات النظامية دون حل وتوفر حوافز محدودة لتحسين معايير السلامة.

علاوة على ذلك، تسلط هذه القضايا الضوء على نقاشات أوسع حول المسؤولية عندما تشكل العوامل الخوارزمية روابط عاطفية مع مستخدمين ضعفاء، لا سيما فيما يتعلق بالصحة النفسية والاعتماد العاطفي والمحتوى غير المناسب — وهي مشكلات لا تقتصر على Character.AI بل تمتد إلى أنظمة ذكاء اصطناعي توليدية أخرى. كما دعت العائلات والمدافعون إلى تحديث التنظيمات، لأن قوانين الولايات تختلف والإرشادات الفيدرالية لا تزال غائبة، مما يثير التساؤل حول ما إذا كانت الضمانات الطوعية كافية لحماية المستخدمين الصغار.