كيف استخدم المجرمون تطبيقات الذكاء الاصطناعي للوجه لخداع المستخدمين: دراسة حالة من الصين تكشف المخاطر

يتم تسليط الضوء على 'كيف استخدم المجرمون تطبيقات الذكاء الاصطناعي للوجه لخداع المستخدمين: دراسة حالة من الصين تكشف المخاطر' من قبل BTW Media لأن الأدلة المنشورة تربطها بالبنية التحتية للإنترنت والحوكمة والتبعيات التشغيلية ورؤية السوق.

أدين أفراد في قوانغتشو لبيعهم معلومات شخصية للمواطنين باستخدام الذكاء الاصطناعي، مما سمح بإنشاء فيديوهات مزيفة للتعرف على الوجه، مما أدى إلى أحكام بالسجن وغرامات. فيما يتعلق بنجاح Miaoya، تكهن مطلعون على القطاع بأن التطبيق ربما حقق أكثر من 100,000 يوان في يوم واحد. Zhang Tianyi، رئيس المنتجات الأول في RuiLai Intelligent، وهي شركة ناشئة حاضنة في معهد أبحاث الذكاء الاصطناعي بجامعة Tsinghua، يشدد على أهمية تأمين البيانات في عصر AIGC مع التطبيق الواسع للنماذج الكبيرة. أول دعوى قضائية مدنية للمصلحة العامة في الصين تتعلق بالتعرف على الوجه.

مؤخرًا، نشرت محكمة الإنترنت في قوانغتشو معلومات عن قضية حيث تم استخدام الذكاء الاصطناعي لتحويل الصور إلى فيديوهات، لتجاوز برامج أمان مسح الوجه. السمات المزعومة، التي تسمى «Check Head» و«Pass Face»، سمحت للمستخدمين بتحميل الصور، والتي كان الرجل، الذي تم تحديده فقط باسم Zheng، يحولها إلى فيديوهات متحركة لوجه الشخص للوصول إلى حساباتهم المصرفية وخدمات الدفع، من بين أمور أخرى. نظرًا لانتشار منصات الدفع مثل WeChat وAlipay في الصين، التي تستخدم التعرف على الوجه كإجراء أمني، فإن ذلك يسمح للأشخاص الخبيثين بتحميل صور أصدقائهم أو زملائهم أو حتى الغرباء، للوصول إلى الحسابات المصرفية وخدمات الدفع.

وفقًا لاعتراف Zheng، كان يشتري صورًا شخصية تتوافق مع أرقام بطاقات هوية معينة من مصادر غير محددة عبر منصات التواصل الاجتماعي، بسعر حوالي 15 إلى 20 يوانًا للصورة الواحدة. ثلاثة مذنبين آخرين، وهم Ren وDai وChen، اشتروا فيما بعد المعلومات الشخصية للمواطنين من مجموعة Zheng، ودفعوا مبالغ متفاوتة بين 50 و100 يوان للصورة. استخدموا برامج الذكاء الاصطناعي لإنشاء فيديوهات التعرف على الوجه الديناميكية المزيفة، القادرة على الإيماء بالرأس وغمض العينين وحركات أخرى. استخدمت هذه الفيديوهات لفتح الحسابات والتحقق من المصادقة بالاسم الحقيقي على بعض التطبيقات، مما حقق أرباحًا غير قانونية.

تتمثل خدمة «Pass Face» في أخذ معلومات الوجه واستخدام برنامج توليف لإنشاء فيديوهات ديناميكية محاكاة لشخص ما. على سبيل المثال، الإجراءات المطلوبة في عمليات التحقق من الوجه الحالية، مثل النظر إلى اليسار أو اليمين، فتح الفم، أو إمالة الرأس، يمكن توليدها بواسطة فيديوهات مركبة. في خطوة التحقق من الوجه في التطبيقات أو التحقق من الحساب، إذا وصلت وضوح وجه الفيديو إلى المعايير المطلوبة، فسيعتبره النظام عملية بشرية حقيقية، متجاوزًا خطوة التحقق من الوجه بنجاح، محققًا هدف اختراق الحسابات.

وفقًا لاعتراف المشتبه به، بعد تجاوز أنظمة التعرف على الوجه، يمكن للمجرمين الوصول إلى حسابات الآخرين على تطبيقات مثل WeChat، والحصول على معلومات شخصية خاصة مثل سجلات الدردشة وسجلات الدفع ومسارات التنقل. بعد الفحص القضائي، أدين الأربعة بمعالجة أكثر من 2,000 معلومة شخصية بشكل غير قانوني، مع أرباح غير مشروعة تجاوزت 15,000 دولار. حُكم عليهم بالسجن لمدة تتراوح بين سنة وشهرين وسنة واحدة، وفرضت غرامات على كل منهم. اقرأ أيضًا: هل نهاية العالم للذكاء الاصطناعي العام؟ استرخِ، إنها ضجة أكثر من كونها حقيقة.

شعبية لا تتوقف لتطبيقات تبديل الوجه بالذكاء الاصطناعي أثارت القضية نقاشًا واسعًا في الصين حول التعرض وإساءة الاستخدام المحتملة للمعلومات الشخصية في تطبيقات التعرف على الوجه هذه، والتي هي كثيرة وشعبية بشكل لا يصدق. تستخدم برامج تبديل الوجه بالذكاء الاصطناعي تقنيات مثل deepfakes. التطبيقات التجارية لتبديل الوجه بالذكاء الاصطناعي مثل Hugging Face وReface وDeepArt وFaceShow وDeepFaceLive متاحة على نطاق واسع. في الصين، تم انتقاد تقنيات تبديل الوجه بالذكاء الاصطناعي في الماضي بسبب مخاوف الخصوصية.

في أغسطس الماضي، اكتسب تطبيق صور الذكاء الاصطناعي «Miaoya Camera» فجأة شعبية، مما غمر وسائل التواصل الاجتماعي بصور تم إنشاؤها بالذكاء الاصطناعي يشاركها المستخدمون. - يقوم المستخدم بتحميل الصورة في الزاوية اليمنى السفلية لتحويلها إلى صورة بالذكاء الاصطناعي - كان السعر الأولي البالغ 1.39 دولار لإنشاء صورة رمزية رقمية، مقارنة بتكاليف استوديوهات التصوير الفوتوغرافي المهنية، ضئيلًا. مع انضمام المزيد من الأشخاص، تباطأت سرعة معالجة التطبيق، مع تقارير تفيد بوجود أكثر من 2,000 شخص في انتظار إنشاء الصور في المساء الثاني من إطلاقه. فيما يتعلق بنجاح Miaoya، تكهن المطلعون على القطاع بأن التطبيق ربما كسب أكثر من 100,000 يوان كل يوم.

وفقًا لفريق Miaoya، يُسمى نموذج الذكاء الاصطناعي وراء التطبيق «Tiziano»، مستلهمًا من أستاذ فن البورتريه Tiziano Vecellio. على الرغم من عدم الكشف عن التفاصيل التقنية للنموذج رسميًا، فمن المحتمل أن Miaoya اعتمد على نماذج مفتوحة المصدر كبيرة مثل SD، وقام بضبطها لتخصيص المستخدم. لاستخدام Miaoya، يجب على المستخدمين تحميل صورة وجه واضحة وما لا يقل عن 20 صورة إضافية بإضاءات وخلفيات وزوايا وتعبيرات مختلفة. بمجرد إنشاء الصورة الرمزية الرقمية، يمكن للمستخدمين الاختيار من بين أكثر من 30 سياقًا من المصادر العامة للصور، بما في ذلك الأنماط القديمة وموضوع الغابة والمهني والرسم الزيتي.

في البداية، سمحت شروط Miaoya باستخدام المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي دون قيود لأغراض مختلفة، مما أثار ضجة عامة. لكن الشركة لم ترد بشكل واضح حول كيفية استخدام المعلومات. اعتذرت الشركة لاحقًا وراجعت الشروط، مما يضمن أن الصور تُستخدم فقط لإنشاء الصور الرمزية الرقمية ويتم حذفها تلقائيًا بمجرد الانتهاء. تحظر الشروط المنقحة صراحةً الاحتفاظ غير القانوني بالمعلومات القابلة للتحديد، وإنشاء ملفات تعريف المستخدمين بناءً على المعلومات المدخلة، وتوفير المعلومات المدخلة للمستخدم لأطراف ثالثة.

«من السابق لأوانه القول إن صور الذكاء الاصطناعي ستستبدل كبائن التصوير الخارجية.» Wang Peng، باحث مشارك في أكاديمية بكين للعلوم الاجتماعية Wang Peng، باحث مشارك في أكاديمية بكين للعلوم الاجتماعية، يرى أنه على الرغم من أن صور الذكاء الاصطناعي اكتسبت شعبية في عصر AIGC، إلا أن تشكيل نموذج عمل حقيقي لا يزال يتطلب جهودًا كبيرة. الطلب على قوة الحوسبة للاستدلال يتجاوز ذلك الخاص بالتدريب، وتكلفة قوة الحوسبة لا تزال عنق زجاجة لتطبيقات AIGC. «من السابق لأوانه القول إن صور الذكاء الاصطناعي ستستبدل كبائن التصوير الخارجية»، قال أيضًا.

متطلبات الامتثال لمقدمي خدمات تبديل الوجه بالذكاء الاصطناعي Zhang Tianyi، رئيس المنتجات الأول في RuiLai Intelligent، وهي شركة ناشئة حاضنة في معهد أبحاث الذكاء الاصطناعي بجامعة Tsinghua، يشدد على أهمية تأمين البيانات في عصر AIGC مع التطبيق الواسع للنماذج الكبيرة.

«يمكن أن يؤدي إساءة استخدام نماذج AIGC إلى مشاكل امتثال المحتوى، بما في ذلك محتوى مضلل يتم إنشاؤه بواسطة deepfakes ونماذج الانتشار، والتي يمكن أن تضلل المستخدمين وتكون لها آثار اجتماعية ضارة.» تم إصدار وثائق تنظيمية حديثة حول حوكمة AIGC بسرعة من قبل السلطات المركزية والمحلية في الصين: تسجيل خوارزميات الذكاء الاصطناعي كما ذكر سابقًا، تعتمد برامج تبديل الوجه بالذكاء الاصطناعي على تقنية deepfake، والتي تندرج ضمن فئة تقديم خدمات AIGC ذات قدرات الرأي العام أو التعبئة الاجتماعية في الصين. يجب على مقدمي الخدمات اتباع إجراءات تسجيل الخوارزمية الموضحة في «اللائحة المتعلقة بإدارة توصيات الخوارزميات لخدمات المعلومات على الإنترنت».

تقييم تأثير حماية المعلومات الشخصية (PIA) يجب على مقدمي خدمات AIGC الذين يعالجون معلومات شخصية حساسة أثناء تقديم الخدمات إجراء PIA لتقييم الجوانب القانونية والامتثالية لمعالجة بياناتهم. يجب على PIA تقييم قانونية وضرورة وملاءمة معالجة المعلومات الشخصية، والتأثير المحتمل على الحقوق الفردية، ومخاطر الأمان، وفعالية تدابير الحماية. يجب الاحتفاظ بتقارير PIA وسجلات الإجراءات المتخذة لمدة لا تقل عن ثلاث سنوات. PIA هي التزام قانوني بموجب قانون حماية المعلومات الشخصية. قد يواجه مقدمو خدمات تبديل الوجه بالذكاء الاصطناعي الذين لا يفيون بهذا الالتزام إجراءات تصحيحية وتحذيرات ومصادرة أرباح غير مشروعة وغرامات وعقوبات أخرى من السلطات المختصة.

تحديد المحتوى المولد بالذكاء الاصطناعي يجب على مقدمي خدمات تبديل الوجه بالذكاء الاصطناعي، المصنفين كمقدمي خدمات AIGC، تحديد المحتوى المولد وفقًا لـ «اللائحة المتعلقة بإدارة التوليف العميق لخدمات المعلومات على الإنترنت». نشرت اللجنة الفنية الوطنية لتوحيد معايير أمن المعلومات في أغسطس إرشادات حول تحديد محتوى خدمات AIGC، والتي تتطلب تضمين اسم مزود الخدمة على الأقل في علامات مائية ضمنية على الصور والمحتويات الصوتية والفيديو المولدة بالذكاء الاصطناعي. في النهاية جلبت منتجات تبديل الوجه بالذكاء الاصطناعي، كتطبيق مهم للذكاء الاصطناعي، تجربة جديدة لعدد كبير من المستخدمين. ومع ذلك، فإن تطويرها المتوافق يواجه تحديات كبيرة.

من ناحية، يمكن أن تصبح منتجات تبديل الوجه بالذكاء الاصطناعي أرضًا خصبة للأنشطة الخبيثة، مما يؤدي إلى مخاوف مثل حوادث «التعرية بنقرة واحدة» الأخيرة، وتسرب معلومات الوجه الذي يسبب انتهاكات للحق في الصورة، وانتهاكات حقوق النشر، ومخاطر الاحتيال. من ناحية أخرى، بالإضافة إلى التزامات الامتثال المذكورة سابقًا، تواجه منتجات تبديل الوجه بالذكاء الاصطناعي التي تعالج معلومات الوجه صعوبة في الحصول على إذن لحقوق النشر والحق في الصورة وحقوق أخرى من جميع الكيانات المعنية.

بالنسبة لمقدمي خدمات تبديل الوجه بالذكاء الاصطناعي، فإن ضمان المعالجة المناسبة للمعلومات الشخصية في الإطار القانوني الحالي، والوفاء بالمتطلبات التنظيمية اللازمة مثل تقييمات تأثير أمان المعلومات الشخصية والتسجيلات، وإنشاء تطبيقات تتوافق مع القيم السائدة، هي مهام شاقة. الطريق أمامنا صعب، لكن المسؤولية كبيرة.