- نشر مجلس الإشراف في ميتا قرارًا بعد مراجعة محتوى إباحي مولّد بالذكاء الاصطناعي يصور نساء مشهورات على منصات ميتا.
- التزمت ميتا بمراجعة توصيات المجلس وتنفيذ التغييرات اللازمة، مما يشير إلى الاستجابة للمخاوف المثارة بشأن المواد الإباحية المولدة بالذكاء الاصطناعي على منصاتها.
رأينا
أصدر مجلس الإشراف في ميتا توجيهًا للشركة وأكد على الحاجة إلى مبادئ توجيهية أكثر وضوحًا وشمولية بشأن إدارة المواد الإباحية المولدة بالذكاء الاصطناعي. يعكس هذا الموقف نقاشًا مجتمعيًا أوسع حول مسؤوليات شركات التكنولوجيا في حماية المستخدمين من المحتوى الضار.
-ليا شو، صحفية في BTW
ماذا حدث
دعامجلس الإشراف في ميتا، وهي هيئة مستقلة تمولها ميتا، إلى تغييرات لمنع تداول هذا النوع من المحتوى بعد مراجعة حالتين من المحتوى الإباحي المولد بالذكاء الاصطناعي يصور نساء مشهورات على منصات ميتا، فيسبوك وإنستغرام.
وأوصوا ميتا بتحديث قواعدها لتشمل مجموعة أوسع من تقنيات التحرير، بما في ذلك الذكاء الاصطناعي التوليدي، لمعالجة مشكلة التمثيل غير التوافقي بشكل فعال وحماية الأفراد من الآثار السلبية لتقنية التزييف العميق.
لم تتمكن ميتا من مراجعة بلاغ مستخدم بسرعة بشأن صورةمولدة بالذكاء الاصطناعيتظهر امرأة هندية خلال 48 ساعة. وبذلك، تم إغلاق التذكرة تلقائيًا دون اتخاذ أي إجراء. لكن في حالة المشاهير الأمريكيين، قامت أنظمة ميتا تلقائيًا بإزالة الصورة.
وقال المجلس: "القيود على هذا المحتوى مشروعة، بالنظر إلى خطورة الأضرار، فإن إزالة المحتوى هي الطريقة الوحيدة الفعالة لحماية الأشخاص المتضررين".
اقرأ أيضًا:نيجيريا تغرم ميتا 220 مليون دولار لانتهاكات البيانات والخصوصية
اقرأ أيضًا:ميتا تطلق نسخة محسنة من نموذج الذكاء الاصطناعي Llama 3
لماذا هذا مهم
يساعد وجود قواعد واضحة بشأن التمثيلات الصريحة لأشخاص حقيقيين مولدة بالذكاء الاصطناعي ميتا على الامتثال للوائح القانونية المتعلقة بالمحتوى عبر الإنترنت ويحمي الشركة من مشكلات قانونية محتملة. وقال المجلس: "العديد من ضحايا الصور الحميمة المزيفة عميقًا ليسوا تحت الأضواء ويضطرون إما إلى قبول نشر تمثيلاتهم غير التوافقية أو البحث عن كل حالة والإبلاغ عنها".
يجب على ميتا وضع مبادئ توجيهية بشأن المواد الإباحية المولدة بالذكاء الاصطناعي وضمان سلامة منصاتها، مثل فيسبوك وإنستغرام، من خلال الحفاظ على بيئة آمنة ومحترمة عبر الإنترنت لجميع المستخدمين. وقالوا إنهم سيراجعون توصيات المجلس وسيقدمون تحديثًا حول التغييرات المعتمدة.
إشراك مجلس الإشراف يلزم ميتا بتطبيق سياسات المحتوى الخاصة بها بشكل متسق وشفاف ويضمن أن تتحمل الشركة مسؤوليتها في مراقبة وإزالة المحتوى الضار من منصاتها.