- Microsoft-CEO Satya Nadellaأكد على ضرورة التحرك السريع بعد ظهور صور مزيفة للمغنية Taylor Swift على الإنترنت.
- في ضوء سهولة التلاعب بمولدات الصور بالذكاء الاصطناعي، يظهر التقرير التحديات المتأصلة في تطبيق هذه القيود.
- انتشار أدوات الذكاء الاصطناعي التي تساعد في إنشاء صور مزيفة يثير القلق ويؤكد الحاجة إلى حلول شاملة للتحديات الجديدة في العالم الرقمي.
لقد دخل النقاش حول الذكاء الاصطناعي و«الهجمات على الواقع» إلى عالم شخصية بارزة – Taylor Swift، التي أصبحت مؤخرًا هدفًا لصور Deepfake تم مشاركتها عبر الإنترنت. أبرزت هذه الحالة أحد أكثر المخاوف التي تم مناقشتها فيما يتعلق بالذكاء الاصطناعي التوليدي: هل يفعل المطورون والشركات المعنية ما يكفي لحماية أنفسهم من إساءة الاستخدام؟
إجابة صادقة
رد الرئيس التنفيذي لشركة Microsoft Satya Nadella على المخاوف بشأن ظهور صور فاضحة بالذكاء الاصطناعي لـ Taylor Swift. في مقابلة مع NBC Nightly News، وصف Nadella تزايد حالات العري المحاكي غير التوافقي بأنه «صادم ومخيف» وأكد على ضرورة التحرك بسرعة.
في مقابلة من المقرر بثها يوم الثلاثاء القادم، اعترف Nadella بخطورة الموقف، عندما أشار المحاور Lester Holt إلى أن الإنترنت مليء بصور إباحية مزيفة لـ Taylor Swift. تناولت إجابة Nadella تعقيد قضايا السياسة التكنولوجية وأصرت على ضرورة وجود ضمانات أمنية قوية لتخفيف حدوث مثل هذه الحوادث.
سأقول شيئين: أولاً، أعود إلى ما أعتبره مسؤوليتنا، وهو جميع الضمانات الأمنية التي يجب أن نضعها حول التكنولوجيا لإنتاج محتوى أكثر أمانًا. وهناك الكثير الذي يتعين القيام به، وقد تم بالفعل الكثير. لكن الأمر يتعلق بتقارب عالمي ومجتمعي – إذا صح التعبير – حول معايير معينة. ويمكننا – خاصة عندما تعمل القوانين وأجهزة إنفاذ القانون ومنصات التكنولوجيا معًا – أعتقد أننا نستطيع تنظيم أكثر مما نعتقد – نحن نقلل من شأن أنفسنا.
Satya Nadella، الرئيس التنفيذي لشركة Microsoft
أكد Nadella أن Microsoft ملتزمة باتخاذ الخطوات اللازمة لضمان إنشاء محتوى أكثر أمانًا في المجال التكنولوجي. وسلط الضوء على أهمية وضع معايير اجتماعية عالمية، والتعاون مع أجهزة إنفاذ القانون، والاستفادة من منصات التكنولوجيا للسيطرة الفعالة على المحتوى عبر الإنترنت.
على الرغم من وجود مؤشرات على أن Microsoft ربما كانت متورطة في نشر هذه الصور المزيفة لـ Swift، يشير تقرير من 404 Media إلى أن الصور جاءت من مجتمع يعمل على Telegram يختص بإنشاء مواد إباحية غير توافقية. يُزعم أن هذا المجتمع اقترح استخدام مولد الصور Designer من Microsoft، على الرغم من أنه يُعتقد أن هذا المولد يحظر إنشاء صور للأشخاص العامين. ومع ذلك، في ضوء سهولة التلاعب بمولدات الذكاء الاصطناعي، يظهر التقرير التحديات المتأصلة في تطبيق هذه القيود.
على الرغم من أن هذه التطورات تكشف عن نقاط ضعف تقنية قد تحتاج Microsoft إلى معالجتها، إلا أنها تعكس أيضًا مخاوف أوسع نطاقًا بشأن انتشار أدوات الذكاء الاصطناعي التي تساعد في إنشاء صور عارية مزيفة. أثار هذا الاتجاه نقاشًا حيويًا وأظهر الحاجة إلى حلول شاملة لمواجهة التحديات الجديدة في العالم الرقمي.
مجتمع صغير، قوة كبيرة
قال البعض إن Microsoft قد تكون لها علاقة بالصور المزيفة لـ Swift. تشير تقارير 404 Media إلى أن الصور تأتي من مجتمع على Telegram ينتج مواد إباحية غير توافقية ويوصي باستخدام مولد الصور Designer من Microsoft. من الناحية النظرية، يرفض Designer إنشاء صور للمشاهير، لكن مولدات الذكاء الاصطناعي سهلة الخداع، وقد اكتشفت 404 أنه يمكن تجاوز قواعده عن طريق تعديل المطالبات. على الرغم من أن هذا لا يثبت استخدام Designer لإنشاء صور Swift، إلا أنها نقطة ضعف تقنية يمكن لـ Microsoft إصلاحها. لكن أدوات الذكاء الاصطناعي بسّطت بشكل كبير عملية إنشاء صور عارية مزيفة واقعية لشخص حقيقي، وتسببت في فوضى للنساء الأقل قوة وشهرة من Swift.
التحكم في إنتاجها ليس بسيطًا مثل جعل الشركات الكبيرة تعزز ضماناتها. حتى لو تم حظر منصات «التقنية الكبرى» مثل Microsoft، يمكن إعادة تدريب الأدوات مفتوحة المصدر مثل Stable Diffusion لإنشاء صور NSFW، على الرغم من محاولات جعل ذلك صعبًا. قد يكون عدد أقل من المستخدمين قادرين على الوصول إلى هذه المولدات، لكن حادثة Swift تظهر مدى انتشار عمل مجتمع صغير.
يقترح Nadella بشكل غامض تغييرات اجتماعية وسياسية أوسع، ولكن على الرغم من بعض الخطوات الأولية لتنظيم الذكاء الاصطناعي، ليس لدى Microsoft حل واضح. يجد المشرعون وأجهزة إنفاذ القانون صعوبة في التعامل مع الصور الجنسية غير التوافقية، وتمثل التزييفات التي ينشئها الذكاء الاصطناعي تعقيدًا إضافيًا. يحاول بعض المشرعين تعديل قوانين الحق في الصورة لحل المشكلة، لكن الحلول المقترحة غالبًا ما تنطوي على مخاطر جسيمة على حرية التعبير. دعا البيت الأبيض إلى «إجراءات تشريعية» بشأن هذه القضية، لكنه لم يقدم سوى القليل جدًا من التفاصيل حول ما يعنيه ذلك.
ومع ذلك، هناك حلول مؤقتة أخرى، مثل شبكات التواصل الاجتماعي التي تحد من انتشار الصور غير التوافقية، أو على ما يبدو Swift التي تمارس نوعًا من العدالة الذاتية ضد من ينشرونها. لكن في الوقت الحالي، تتلخص خطة Nadella الواضحة الوحيدة في تطهير قسم الذكاء الاصطناعي في Microsoft.