Google وCharacter.AI يتوصلان إلى تسويات في الدعاوى القضائية المتعلقة بانتحار المراهقين المرتبط بروبوتات المحادثة

تم تسليط الضوء على Google وCharacter.AI لتسوية الدعاوى القضائية المتعلقة بانتحار المراهقين المرتبط بروبوتات المحادثة بواسطة BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.

• توصلت Google وCharacter.AI إلى تسويات بوساطة مع أسر تتهم روبوتات المحادثة الذكية بالتسبب في انتحار المراهقين وإيذاء أنفسهم، على الرغم من عدم الكشف عن الشروط.
• تعد هذه الدعاوى من بين أولى الدعاوى التي تستهدف شركات الذكاء الاصطناعي بسبب الضرر النفسي للقصر، وتسلط الضوء على النقاش حول تصميم الذكاء الاصطناعي وضوابط الوالدين والمسؤولية القانونية.

ما حدث: تسويات بوساطة في دعاوى قضائية تتعلق بضرر المراهقين

توصلت Google وشركة Character.AI الناشئة في مجال الذكاء الاصطناعي من حيث المبدأ إلى تسويات بوساطة مع أسر رفعت عدة دعاوى قضائية تتهم روبوتات المحادثة الخاصة بها بالدور في وفيات المراهقين وإيذاء أنفسهم. وقد رفعت أم من فلوريدا، هي ميغان غارسيا، أبرز القضايا، حيث زعمت أن ابنها البالغ من العمر 14 عامًا، سيويل سيتزر الثالث، أودى بحياته بعد تفاعل طويل مع روبوت محادثة صمم على غرار شخصية من مسلسل Game of Thrones. كما رُفعت دعاوى مماثلة في كولورادو ونيويورك وتكساس، حيث أكدت الأسر أن سلوك روبوت المحادثة الذكي ساهم في إيذاء النفس أو شجع على التفكير الضار.

لا تكشف المستندات القانونية بعد عن تفاصيل التسويات، التي لا يزال يتعين على القضاة الموافقة عليها. ورفض محامو الأسر وممثلو كلتا الشركتين التعليق. وقد ورد اسم Google في الدعاوى جزئيًا لأنها رخصت تقنية Character.AI واستأجرت مؤسسيها المشاركين بعد صفقة تقنية وتوظيف في عام 2024. وقد نفذت Character.AI سابقًا ضمانات بما في ذلك حظر المستخدمين دون سن 18 عامًا من المحادثات المفتوحة، وإدخال ضوابط الوالدين ومرشحات المحتوى، على الرغم من أن هذه التغييرات لم توقف الإجراءات القانونية.

لماذا هذا مهم

تعد هذه التسويات المقترحة من بين أولى الحلول القانونية في القضايا التي تتهم روبوتات المحادثة الذكية بالتسبب في ضرر نفسي للقاصرين، مما يشير إلى أن الشركات قد تواجه مخاطر مالية ومخاطر تتعلق بالسمعة عندما تُلام التقنيات على أضرار في العالم الحقيقي. ودعت دعاوى الآباء إلى مزيد من الشفافية وضمانات أقوى تركز على الأطفال في تصميم ونشر رفقاء الذكاء الاصطناعي، لكن عدم وجود شروط عامة يثير مخاوف من أن دروس السلامة الرئيسية قد تُحجب. ويقول النقاد إن التسويات بوساطة دون اعتراف واضح بالمسؤولية قد تترك المشكلات النظامية دون معالجة وتقدم حوافز محدودة لتحسين معايير السلامة.

علاوة على ذلك، تسلط القضايا الضوء على نقاشات أوسع حول المسؤولية عندما تشكل العوامل التي تعتمد على الخوارزميات روابط عاطفية مع المستخدمين الضعفاء، خاصة فيما يتعلق بالصحة النفسية والاعتماد العاطفي والمحتوى غير المناسب - وهي قضايا تمتد إلى ما وراء Character.AI إلى أنظمة الذكاء الاصطناعي التوليدية الأخرى. كما دعت الأسر والمدافعون إلى تحديث التنظيمات، حيث تختلف قوانين الولايات الحالية وتظل المبادئ التوجيهية الفيدرالية غائبة، مما يثير التساؤل عما إذا كانت الحواجز الطوعية كافية لحماية المستخدمين الصغار.

اقرأ أيضًا:عودة مؤسسي Character.AI إلى Google مع توقيع اتفاقية تقنية
اقرأ أيضًا:Google توظف مواهب Character.AI وتوقع اتفاقية ترخيص