كيف استخدم المجرمون تطبيقات الوجه بالذكاء الاصطناعي لخداع المستخدمين: دراسة حالة من الصين تكشف المخاطر

تم تسليط الضوء على مقالة 'كيف استخدم المجرمون تطبيقات الوجه بالذكاء الاصطناعي لخداع المستخدمين: دراسة حالة من الصين تكشف المخاطر' من قبل BTW Media لأن الأدلة المنشورة تربطها بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.

أدين أفراد في قوانغتشو لبيعهم غير القانوني لمعلومات شخصية للمواطنين باستخدام الذكاء الاصطناعي، مما سمح للمستخدمين بإنشاء فيديوهات تزييف للتعرف على الوجه، مما أدى إلى أحكام بالسجن وغرامات. وبخصوص نجاح تطبيق مياويا، تكهن مسؤولون في الصناعة بأن التطبيق ربما حقق أكثر من 100,000 يوان في يوم واحد. أكد تشانغ تيانيي، مدير المنتجات الأول في شركة روي لاي إنتليجنت، وهي شركة ناشئة حاضنة من معهد أبحاث الذكاء الاصطناعي بجامعة تسينغهوا، على أهمية تأمين البيانات في عصر المحتوى المولد بالذكاء الاصطناعي مع التطبيق الواسع للنماذج الكبيرة.

أول دعوى قضائية مدنية ذات نفع عام في الصين تتعلق بالتعرف على الوجه مؤخرًا، أصدرت محكمة الإنترنت في قوانغتشو معلومات حول قضية استُخدم فيها الذكاء الاصطناعي لتحويل الصور إلى فيديوهات بغرض تجاوز برامج الأمان التي تفحص الوجه. الشركات المزعومة، والتي تُسمى "فحص الرأس" و"تمرير الوجه"، سمحت للمستخدمين برفع الصور، التي كان الرجل المسمى زينغ فقط يحولها إلى فيديوهات متحركة لوجه الشخص للوصول إلى حساباتهم المصرفية وخدمات الدفع، من بين أشياء أخرى.

نظرًا لانتشار منصات الدفع مثل WeChat وAlipay في الصين، والتي تستخدم التعرف على الوجه كإجراء أمني، فإن هذا يسمح للأشخاص عديمي الضمير برفع صور أصدقائهم أو زملائهم أو حتى الغرباء للوصول إلى الحسابات المصرفية وخدمات الدفع. وفقًا لاعتراف زينغ، اشترى صورًا شخصية تتوافق مع أرقام هوية معينة من مصادر غير محددة عبر منصات التواصل الاجتماعي، وقدّمها بسعر يتراوح بين 15 و20 يوانًا للصورة. ثم اشترى ثلاثة مجرمين آخرين، هم رن وداي وتشن، معلومات شخصية للمواطنين من مجموعة زينغ، ودفعوا مبالغ متفاوتة بين 50 و100 يوان للصورة. استخدموا برامج الذكاء الاصطناعي لإنشاء فيديوهات تزييف ديناميكية للتعرف على الوجه، قادرة على الإيماء بالرأس والرمش وحركات أخرى.

استُخدمت هذه الفيديوهات لإلغاء حظر الحسابات والتحقق من المصادقة بالاسم الحقيقي في بعض التطبيقات، مما أدى إلى أرباح غير قانونية. تتضمن خدمة "تمرير الوجه" أخذ معلومات الوجه واستخدام برامج توليف لإنشاء فيديوهات ديناميكية محاكاة لشخص ما. على سبيل المثال، يمكن توليد الإجراءات المطلوبة في عمليات التحقق من الوجه الحالية، مثل النظر إلى اليسار أو اليمين، فتح الفم، أو إمالة الرأس، من خلال فيديوهات مولدة. عند دخول مرحلة التحقق من الوجه في التطبيقات أو التحقق من الحساب، إذا كانت وضوح الوجه في الفيديو يفي بالمعايير المطلوبة، سيعتبر النظام أنه عملية بشرية حقيقية، متجاوزًا بنجاح مرحلة التحقق من الوجه ويحقق هدف اختراق الحسابات.

وفقًا لاعتراف المشتبه به، بعد تجاوز أنظمة التعرف على الوجه، يمكن للمجرمين الوصول إلى حسابات الآخرين على تطبيقات مثل WeChat، والحصول على معلومات الخصوصية الشخصية مثل سجلات الدردشة وسجلات الدفع ومسارات الحركة. بعد المراجعة القضائية، وجد الأربعة مذنبين في التعامل غير القانوني مع أكثر من 2,000 معلومة شخصية، مع أرباح غير قانونية تجاوزت 15,000 دولار. حُكم عليهم بعقوبات سجن متفاوتة تتراوح بين سنة وشهرين إلى سنة واحدة، وفُرِضَت عليهم غرامات. اقرأ أيضًا: نهاية العالم للذكاء الاصطناعي العام؟ استرخ، إنها ضجة أكثر من حقيقة.

شعبية غير مسبوقة لتطبيقات تبديل الوجه بالذكاء الاصطناعي أثارت القضية جدلاً واسعًا في الصين حول التعرض لسوء الاستخدام المحتمل للمعلومات الشخصية في تطبيقات التعرف على الوجه هذه، والتي هي عديدة وشائعة بشكل لا يصدق. تستخدم برامج تبديل الوجه بالذكاء الاصطناعي بشكل أساسي تقنيات مثل التزييف العميق. تطبيقات تبديل الوجه بالذكاء الاصطناعي المسوقة مثل Hugging Face وReface وDeepArt وFaceShow وDeepFaceLive متاحة على نطاق واسع. في الصين، واجهت تقنيات تبديل الوجه بالذكاء الاصطناعي انتقادات في الماضي بسبب مخاوف الخصوصية.

في أغسطس الماضي، اكتسب تطبيق "كاميرا مياويا"، وهو تطبيق صور بالذكاء الاصطناعي، شعبية مفاجئة، مما أغرق وسائل التواصل الاجتماعي بمشاركات المستخدمين لصور مولدة بالذكاء الاصطناعي. -يقوم المستخدم بتطبيق الصورة في الزاوية اليمنى السفلى لتحويلها إلى صورة بالذكاء الاصطناعي- بدت الرسوم الأولية البالغة 1.39 دولارًا لإنشاء صورة رمزية رقمية ضئيلة مقارنة بالتكاليف المرتفعة لاستوديوهات التصوير الاحترافية. مع انضمام المزيد من الأشخاص، تباطأت سرعة معالجة التطبيق، مع تقارير عن وجود أكثر من 2,000 شخص في قائمة الانتظار لتوليد الصور في الليلة الثانية من إطلاقه. بخصوص نجاح مياويا، تكهن مسؤولو الصناعة بأن التطبيق ربما حقق أكثر من 100,000 يوان كل يوم.

وفقًا لفريق مياويا، يُسمى نموذج الذكاء الاصطناعي وراء التطبيق "تيزيانو"، مستوحى من فنان الصور الشخصية تيزيانو فيتشيليو. على الرغم من عدم الكشف عن التفاصيل الرسمية لتقنية النموذج، فمن المحتمل أن مياويا بني على نماذج مفتوحة المصدر كبيرة مثل SD، وضبطها للتخصيص حسب المستخدم. لاستخدام مياويا، يجب على المستخدمين رفع صورة أمامية واضحة و20 صورة إضافية على الأقل بإضاءات وخلفيات وزوايا وتعبيرات متنوعة. بعد إنشاء الصورة الرمزية الرقمية، يمكن للمستخدمين اختيار من أكثر من 30 سياقًا من المصادر العامة للصور الشخصية، بما في ذلك أنماط كلاسيكية وغابات وعمل ولوحات زيتية.

في البداية، سمحت شروط مياويا بالاستخدام غير المقيد للمحتوى المولد بالذكاء الاصطناعي لأغراض مختلفة، مما أثار غضبًا عامًا. لكن الشركة لم تقدم إجابة واضحة حول كيفية استخدام المعلومات. أصدرت الشركة لاحقًا اعتذارًا وعدلت الشروط، لضمان استخدام الصور فقط لإنشاء الصور الرمزية الرقمية وحذفها تلقائيًا بعد الانتهاء. تحظر الشروط المعدلة صراحةً الاحتفاظ غير القانوني بالمعلومات القابلة للتحديد، وملفات تعريف المستخدمين بناءً على معلومات الإدخال، وتقديم معلومات إدخال المستخدم إلى أطراف ثالثة.

قال وانغ بينغ، الباحث المشارك في أكاديمية بكين للعلوم الاجتماعية: "من السابق لأوانه القول إن الصور الشخصية بالذكاء الاصطناعي ستحل محل أكشاك التصوير الفعلية." يعتقد وانغ بينغ، الباحث المشارك في أكاديمية بكين للعلوم الاجتماعية، أنه على الرغم من أن الصور الشخصية بالذكاء الاصطناعي اكتسبت شعبية في عصر المحتوى المولد بالذكاء الاصطناعي، فإن تشكيل نموذج عمل حقيقي لا يزال يتطلب جهدًا كبيرًا. يتجاوز الطلب على القدرة الحاسوبية في مرحلة الاستدلال ذلك في التدريب، وتبقى تكلفة القوة الحاسوبية عنق الزجاجة لتطبيقات المحتوى المولد بالذكاء الاصطناعي.

قال أيضًا: "من السابق لأوانه القول إن الصور الشخصية بالذكاء الاصطناعي ستحل محل أكشاك التصوير الفعلية." متطلبات الامتثال لمقدمي خدمات تبديل الوجه بالذكاء الاصطناعي أكد تشانغ تيانيي، مدير المنتجات الأول في شركة روي لاي إنتليجنت، وهي شركة ناشئة حاضنة من معهد أبحاث الذكاء الاصطناعي بجامعة تسينغهوا، على أهمية تأمين البيانات في عصر المحتوى المولد بالذكاء الاصطناعي مع التطبيق الواسع للنماذج الكبيرة.

"يمكن أن يؤدي سوء استخدام نماذج المحتوى المولد بالذكاء الاصطناعي إلى مشكلات في الامتثال للمحتوى، بما في ذلك المحتوى الخادع الذي تولده تقنيات التزييف العميق ونماذج الانتشار، والتي يمكن أن تضلل المستخدمين وتكون لها آثار اجتماعية سلبية." صدرت مؤخرًا وثائق تنظيمية بشأن حوكمة المحتوى المولد بالذكاء الاصطناعي بسرعة من السلطات المركزية إلى المحلية في الصين: تسجيل خوارزميات الذكاء الاصطناعي كما ذكرنا سابقًا، تعتمد برامج تبديل الوجه بالذكاء الاصطناعي على تقنية التزييف العميق، والتي تندرج تحت فئة تقديم خدمات المحتوى المولد بالذكاء الاصطناعي مع قدرات الرأي العام أو التعبئة الاجتماعية في الصين.

يجب على مقدمي الخدمات اتباع إجراءات تسجيل الخوارزميات الموضحة في "لوائح إدارة خوارزميات توصية خدمات معلومات الإنترنت". تقييم تأثير حماية المعلومات الشخصية يجب على مقدمي خدمات المحتوى المولد بالذكاء الاصطناعى الذين يتعاملون مع المعلومات الشخصية الحساسة أثناء تقديم الخدمات إجراء تقييم تأثير حماية المعلومات الشخصية لتقييم الجوانب القانونية والامتثالية لمعالجة بياناتهم. يجب أن يقيم التقييم قانونية وضرورة وملاءمة معالجة المعلومات الشخصية، والتأثير المحتمل على حقوق الأفراد، ومخاطر الأمان، وفعالية تدابير الحماية. يجب الاحتفاظ بتقارير تقييم التأثير وسجلات الإجراءات المتخذة لمدة ثلاث سنوات على الأقل.

تقييم تأثير حماية المعلومات الشخصية هو التزام قانوني بموجب قانون حماية المعلومات الشخصية. قد يواجه مقدمو خدمات تبديل الوجه بالذكاء الاصطناعى الذين يفشلون في الوفاء بهذا الالتزام أوامر تصحيحية وتحذيرات ومصادرة الأرباح غير القانونية وغرامات وعقوبات أخرى من السلطات المختصة. تحديد المحتوى المولد بالذكاء الاصطناعي يجب على مقدمي خدمات تبديل الوجه بالذكاء الاصطناعي، المصنفين كمقدمي خدمات المحتوى المولد بالذكاء الاصطناعي، تحديد المحتوى المولد وفقًا "للوائح إدارة التوليف العميق لخدمات معلومات الإنترنت".

أصدرت اللجنة الفنية الوطنية لتوحيد معايير أمن المعلومات إرشادات في أغسطس بشأن تحديد محتوى خدمات المحتوى المولد بالذكاء الاصطناعي، والتي تتطلب تضمين اسم مقدم الخدمة على الأقل في علامات مائية ضمنية على الصور والصوت والفيديو المولدة بالذكاء الاصطناعي. في النهاية، منتجات تبديل الوجه بالذكاء الاصطناعي، كتطبيق مهم للذكاء الاصطناعي، جلبت تجربة جديدة لعدد كبير من المستخدمين. ومع ذلك، فإن تطويرها الممتثل يواجه تحديات كبيرة.

من ناحية، يمكن أن تصبح منتجات تبديل الوجه بالذكاء الاصطناعي أرضًا خصبة للأنشطة الضارة، مما يؤدي إلى مخاوف مثل حوادث "خلع الملابس بنقرة واحدة" الأخيرة، وتسريبات معلومات الوجه التي تسبب انتهاكًا لحقوق الصورة، وانتهاكات حقوق النشر، ومخاطر الاحتيال. من ناحية أخرى، بالإضافة إلى التزامات الامتثال المذكورة سابقًا، تكافح منتجات تبديل الوجه بالذكاء الاصطناعي التي تتعامل مع معلومات الوجه للحصول على ترخيص لحقوق النشر وحقوق الصورة وجميع الحقوق لجميع الكيانات المعنية.

بالنسبة لمقدمي خدمات تبديل الوجه بالذكاء الاصطناعي، فإن ضمان المعالجة الصحيحة للمعلومات الشخصية ضمن الإطار القانوني الحالي، وإكمال المتطلبات التنظيمية الضرورية مثل تقييمات تأثير سلامة المعلومات الشخصية والتسجيلات، وإنشاء تطبيقات تتوافق مع القيم السائدة هي مهام شاقة. الطريق أمامنا صعب، لكن المسؤولية كبيرة.