Grok AI يحد من مولد الصور بعد الاحتجاج العالمي على التزييف العميق الجنسي

يتم تحديد Grok AI الذي يحد من مولد الصور بعد الاحتجاج العالمي على التزييف العميق الجنسي من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.

قامت أداة الذكاء الاصطناعي Grok التابعة لإيلون ماسك بتقييد وظيفة إنشاء الصور بعد الاستخدام الواسع النطاق لإنشاء محتوى جنسي صريح وضار يشمل النساء والأطفال. وقد انتقدت الحكومات والجهات التنظيمية وجماعات المناصرة الرد باعتباره غير كاف، مما يثير أسئلة ملحة حول سلامة الذكاء الاصطناعي والمسؤولية والتصميم الأخلاقي للأنظمة التوليدية. ماذا حدث؟ تم تقييد أداة الصور في Grok وسط الجدل. قام روبوت الدردشة الذكي Grok من إيلون ماسك، الذي طورته xAI والمدمج في منصة التواصل الاجتماعي X (تويتر سابقًا)، بتقييد قدراته على إنشاء الصور بشكل كبير بعد رد الفعل الدولي.

حدثت التغييرات بعد أن استغل المستخدمون الأداة لإنتاج صور معدلة رقميًا تظهر أفرادًا في سياقات جنسية أو مسيئة دون موافقة، بما في ذلك تصوير مقلق يضم النساء والأطفال. تم تعطيل وظيفة إنشاء الصور في Grok، والتي كانت متاحة في الأصل مجانًا للمستخدمين، لمعظم الحسابات غير المدفوعة على X، وأصبح الوصول إلى التحرير والإنشاء الآن مقصورًا إلى حد كبير على المشتركين المدفوعين الذين تم تسجيل هوياتهم. على الرغم من أن هذه الخطوة تحد من سوء الاستخدام العادي على المنصة الرئيسية، تشير التقارير إلى أن تطبيق Grok المستقل ونقاط الوصول الأخرى لا تزال تسمح بإنشاء محتوى ضار.

اشتد الجدل بعد أن وجد تحقيق مئات الصور الجنسية المنتجة بواسطة الذكاء الاصطناعي، بما في ذلك بعضها يحاكي العري أو العنف، مما أثار إنذارًا بين دعاة السلامة. سلطت تحقيقات هيئات الرقابة الضوء على حواجز السلامة الضعيفة للأداة، وأشار تحليل إلى أن Grok كان ينتج آلاف الصور الإشكالية في الساعة في ذروة رد الفعل. اقرأ أيضًا: تركيا تحظر روبوت الدردشة الذكي Grok في هجوم جديد اقرأ أيضًا: المملكة المتحدة تحث ماسك على التحرك بسرعة بشأن صور الذكاء الاصطناعي من Grok لماذا هذا مهم؟ يسلط جدل Grok الضوء على مخاوف عميقة بشأن التصميم الأخلاقي وتنفيذ أنظمة الذكاء الاصطناعي التوليدية.

يجادل النقاد بأن تقييد الإنتاج الضار خلف نموذج اشتراك لا يفعل الكثير لمعالجة عيوب السلامة الأساسية وقد يحفز تسييل الميزات الضارة بدلاً من إزالتها. وصف مسؤولون في المملكة المتحدة نهج حجر الدفع بأنه "مهين" للناجين من الإساءة، وحذروا من أنه قد يرقى إلى تسويق الضرر بدلاً من منعه. وقد جذب الموضوع انتباه الجهات التنظيمية في ولايات قضائية متعددة. في المملكة المتحدة، ناقش وزراء الحكومة إمكانية تقييد الوصول إلى X بموجب قوانين السلامة عبر الإنترنت، بينما أبلغت هيئات الرقابة في أستراليا وأماكن أخرى عن تحقيقات في حالات سوء استخدام مماثلة.

على سبيل المثال، تحركت ماليزيا لتقييد الوصول إلى Grok مؤقتًا خوفًا من افتقاره إلى الضمانات الكافية لمنع إنشاء محتوى إباحي. كما شكك باحثو الأمن في سياسات المحتوى الداخلية لـ Grok، مشيرين إلى أن إرشاداتها لرفض المخرجات الضارة ضعيفة أو يتم تطبيقها بشكل غير متسق، وفي بعض الحالات توجيه النظام إلى "افتراض النية الحسنة" بدلاً من الحظر الاستباقي للطلبات الخطيرة. يبدو أن هذا الخيار التصميمي ساهم في تدفق الصور غير المناسبة التي أدت إلى رد الفعل الحالي. أعربت الضحايا وجماعات المناصرة عن إحباطهم من السماح للضرر بالانتشار قبل اتخاذ إجراءات جوهرية.

بالنسبة للأشخاص المتضررين، مثل أولئك الذين تم التلاعب بصورهم دون موافقتهم، فإن الضرر فوري وشخصي بعمق، مما يؤكد كيف يمكن للأنظمة التوليدية تضخيم الإساءة إذا فشلت الضمانات. توضح قضية Grok أيضًا حدود التنظيم الذاتي في الذكاء الاصطناعي. بينما يعد مطورو الأدوات التوليدية غالبًا بآليات السلامة والحواجز الأخلاقية، غالبًا ما يكشف الاستخدام الواقعي عن فجوات بين السياسات المعلنة والسلوك الفعلي. مع تفكير الحكومات والجهات التنظيمية في سياق المصادر العامة وأطر الإشراف الأكثر قوة، قد يشكل الجدل المستمر معايير السلامة الناشئة للذكاء الاصطناعي والاستجابات التشريعية لضمان أن التكنولوجيات التوليدية القوية لا تؤدي إلى تآكل الحقوق الأساسية أو الأعراف الاجتماعية.