كشف أوهام التزييف العميق والحماية من الخداع

يتم عرض 'كشف أوهام التزييف العميق والحماية من الخداع' من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو وضوح السوق.

• يقوم التزييف العميق بتلفيق خدع صوتية أو فيديو أو صور بشكل مقنع، ممزوجًا بتقنيات التعلم العميق مع إنشاء محتوى مزيف.
• بينما له استخدامات في الترفيه وخدمة العملاء، تشمل تطبيقاته المظلمة نشر المعلومات الكاذبة وتسهيل الاحتيال على الهوية.
• يدفع سباق التسلح المستمر ضد التزييف العميق تطوير أدوات الكشف مثل Sentinel وSensity AI، بالإضافة إلى مبادرات تعاونية مثل C2PA.

يقوم التزييف العميق، المدعوم بالذكاء الاصطناعي، بتلفيق خدع صوتية أو فيديو أو صور بشكل مقنع، مما يثير مخاوف مزدوجة: من التطبيقات الحميدة في الترفيه إلى الاستخدامات الخبيثة مثل نشر المعلومات المضللة وتسهيل الاحتيال على الهوية. ولمواجهة هذا التهديد، تظهر أدوات الكشف مثل Sentinel وSensity AI، إلى جانب مبادرات مثل C2PA.

ما هو الذكاء الاصطناعي للتزييف العميق؟

الذكاء الاصطناعي للتزييف العميق هو شكل من أشكال الذكاء الاصطناعي المستخدم لإنتاج خدع مقنعة بالصور والصوت والفيديو. يشمل المصطلح كلاً من التكنولوجيا نفسها والمحتوى الخادع الناتج، وهو مزيج من التعلم العميق والتزييف.

غالباً ما يتلاعب التزييف العميق بالمصادر الموجودة، مستبدلاً شخصاً بآخر. كما يولد محتوى جديداً تماماً يصور أفراداً يقومون بأفعال أو يقولون كلمات لم يفعلوها في الواقع.

القلق الرئيسي المحيط بالتزييف العميق هو قدرته على نشر معلومات كاذبة تبدو وكأنها من مصادر موثوقة. على سبيل المثال، في عام 2022، ظهر فيديو مزيف يظهر الرئيس الأوكراني فولوديمير زيلينسكي وهو يحث قواته على الاستسلام.

هناك أيضاً مخاوف بشأن التدخل المحتمل في الانتخابات ونشر الدعاية الانتخابية. "المستشارون السياسيون، والحملات، والمرشحون، وحتى عامة الناس يتقدمون في استخدام التكنولوجيا دون فهم كامل لكيفية عملها أو، الأهم من ذلك، كل الأضرار المحتملة التي يمكن أن تسببها"، قالت كاراه أونغ ويلي، المسؤولة الأكاديمية لمركز السياسة بجامعة فرجينيا. "أنا قلقة بشكل خاص بشأن استخدام الذكاء الاصطناعي للتلاعب بالناخبين - ليس فقط من خلال التزييف العميق، ولكن من خلال قدرة الذكاء الاصطناعي التوليدي على الاستهداف الدقيق للغاية عبر حملات الرسائل النصية والبريد الإلكتروني"، كما قالت.

المستشارون السياسيون، والحملات، والمرشحون، وحتى عامة الناس يتقدمون في استخدام التكنولوجيا دون فهم كامل لكيفية عملها أو، الأهم من ذلك، كل الأضرار المحتملة التي يمكن أن تسببها.

كاراه أونغ ويلي، المسؤولة الأكاديمية لمركز السياسة بجامعة فرجينيا

على الرغم من المخاطر الكبيرة المرتبطة بالتزييف العميق، إلا أن له أيضاً تطبيقات مشروعة، مثل الصوت في ألعاب الفيديو والترفيه، وكذلك في دعم العملاء وأنظمة الرد على المكالمات، مثل خدمات تحويل المكالمات والاستقبال.

اقرأ أيضًا:هل الذكاء الاصطناعي التوليدي للتزييف العميق؟

تطبيقات تقنية التزييف العميق

التطبيقات السلبية

الابتزاز والإضرار بالسمعة:تحدث حالات من هذا النوع عندما توضع صورة الهدف في سيناريو غير قانوني أو غير مناسب أو مساوم، مثل خداع الجمهور، أو المشاركة في أنشطة جنسية صريحة، أو تعاطي المخدرات. تُستخدم هذه الفيديوهات لابتزاز الضحية، أو تشويه سمعة الفرد، أو الانتقام، أو التنمر الإلكتروني. الشكل السائد من الابتزاز أو الانتقام هو المواد الإباحية المزيفة غير التوافقية، والتي يشار إليها عادة باسم إباحية الانتقام. في عام 2019، تم تطوير برنامج يسمى DeepNude قادر على جعل امرأة عارية بنقرة واحدة، وانتشر بسرعة لأغراض خبيثة، خاصة لمضايقة النساء.

الأدلة الكاذبة:يمكن تقديم صور أو صوتيات مزيفة كأدلة في الإجراءات القانونية، مما يؤدي إلى توريط أفراد أو تبرئتهم من الأفعال الخاطئة.

الاحتيال:يُستخدم التزييف العميق لانتحال شخصية الأفراد، غالبًا للحصول على معلومات شخصية حساسة مثل التفاصيل المصرفية أو أرقام بطاقات الائتمان. يمكن أن يمتد هذا الانتحال إلى كبار المسؤولين التنفيذيين في الشركات أو الموظفين الذين لديهم إمكانية الوصول إلى البيانات السرية، مما يشكل تهديدات كبيرة للأمن السيبراني.

ووفقًا لمعهد مهندسي الكهرباء والإلكترونيات (IEEE Spectrum)، "كان الاحتيال على الهوية هو الشاغل الأكبر بشأن التزييف العميق لأكثر من ثلاثة أرباع المستجيبين لاستطلاع صناعة الأمن السيبراني الذي أجرته شركة القياسات الحيوية iProov."

المعلومات المضللة والتلاعب السياسي:تُستخدم فيديوهات التزييف العميق للسياسيين أو الشخصيات الموثوقة للتلاعب بالرأي العام وإثارة البلبلة، مما يسهم غالبًا في نشر الأخبار الكاذبة. تقريبًا جميع قادة العالم، بما في ذلك باراك أوباما، الرئيس السابق للولايات المتحدة، ودونالد ترامب، الرئيس الحالي للولايات المتحدة، ونانسي بيلوسي، سياسية أمريكية، وأنجيلا ميركل، المستشارة الألمانية، تم استغلالهم جميعًا بطريقة ما بواسطة فيديوهات مزيفة، وحتى مؤسس فيسبوك مارك زوكربيرغ واجه موقفًا مماثلاً. حالات مثل فيديو التزييف العميق الذي يضم الرئيس الأوكراني فولوديمير زيلينسكي توضح إمكانية التزييف العميق في تفاقم الصراعات وزعزعة استقرار المواقف.

التلاعب بالأسهم:يمكن لمحتوى التزييف العميق المزور التأثير على أسعار الأسهم، حيث تؤدي فيديوهات مزيفة لمسؤولين تنفيذيين يدلون بتصريحات ضارة عن شركاتهم إلى انخفاض الأسهم. وعلى العكس، يمكن للفيديوهات المزيفة التي تروّج لاختراقات تكنولوجية أو إطلاق منتجات أن ترفع قيم الأسهم بشكل مصطنع.

اختبار سريع

كيف تساهم فيديوهات التزييف العميق للسياسيين أو الشخصيات الموثوقة في التضليل؟
أ. من خلال توفير معلومات دقيقة للجمهور
ب. من خلال التلاعب بالرأي العام وإثارة البلبلة
ج. من خلال كشف الفساد السياسي
د. من خلال تعزيز الشفافية في الحكومة

الإجابة الصحيحة في أسفل المقال.

التطبيقات الإيجابية

الفن:يُستخدم التزييف العميق لتوليد مؤلفات موسيقية جديدة باستخدام التسجيلات الحالية لأعمال الفنانين، مما يتيح أساليب مبتكرة في إنشاء الموسيقى وإعادة المزج. وقد أدت تقنية التزييف العميق إلى إضفاء الطابع الديمقراطي على إنشاء الأعمال الفنية، مما جعلها في متناول مجموعة أوسع من الأفراد. تمكن الفنانين من إنتاج قطع مبتكرة تأسر الجماهير بتجارب فريدة. على سبيل المثال، استخدم متحف دالي في سانت بيترسبرغ بولاية فلوريدا تقنية التزييف العميق لإحياء سلفادور دالي، مما سمح للزوار بالتفاعل مع الفنان الشهير من خلال الذكاء الاصطناعي.

التسويق الرقمي:تُستخدم تقنية التزييف العميق بشكل متزايد في استراتيجيات التسويق الرقمي لإنشاء محتوى جذاب وغامر. من خلال الاستفادة من التزييف العميق، يمكن للمسوقين تطوير إعلانات ومواد ترويجية مخصصة للغاية مصممة حسب التفضيلات والتركيبة السكانية الفردية. على سبيل المثال، يمكن استخدام التزييف العميق لتركيب صور المنتجات على سيناريوهات حقيقية، مما يسمح للمستهلكين بتصور فوائد المنتج في بيئتهم الخاصة. علاوة على ذلك، تتيح تقنية التزييف العميق إنشاء حملات سرد قصصي مقنعة، مما يعزز التفاعل مع العلامة التجارية ويدفع ولاء العملاء. بالإضافة إلى ذلك، يوفر التزييف العميق للمسوقين القدرة على إعادة استخدام المحتوى الحالي بطرق مبتكرة، مما يزيد من عائد الاستثمار للحملات الإعلانية.

"هذه التكنولوجيا تُطبق بشكل متزايد في التسويق الرقمي، مما يمكن الشركة من تقليل تكاليفها، وتصميم الحملات الترويجية بسهولة أكبر، وتخصيص عروضها، وتوفير تجارب فريدة لمستهلكيها، ولكن أيضًا رفع وعي السوق المستهدف حول بعض القضايا الحساسة ذات الأهمية الاجتماعية"، قال رادوسلاف بالتيزاريفيتش، نائب عميد الدراسات العليا والبحث العلمي، أستاذ التسويق والاتصالات والإدارة، جامعة ميغاتريند.

هذه التكنولوجيا تُطبق بشكل متزايد في التسويق الرقمي، مما يمكن الشركة من تقليل تكاليفها، وتصميم الحملات الترويجية بسهولة أكبر، وتخصيص عروضها، وتوفير تجارب فريدة لمستهلكيها، ولكن أيضًا رفع وعي السوق المستهدف حول بعض القضايا الحساسة ذات الأهمية الاجتماعية.

رادوسلاف بالتيزاريفيتش، نائب عميد الدراسات العليا والبحث العلمي

خدمات الرد على المكالمات:تستفيد هذه الخدمات من التزييف العميق لتقديم ردود مخصصة على استفسارات المتصلين، مما يعزز مشاركة العملاء ورضاهم، خاصة في مهام تحويل المكالمات والاستقبال.

دعم العملاء عبر الهاتف:باستخدام الأصوات الاصطناعية التي تولدها تقنية التزييف العميق، تعمل خدمات دعم العملاء على تبسيط المهام الروتينية مثل التحقق من أرصدة الحسابات أو تقديم الشكاوى، مما يحسن الكفاءة وتجربة المستخدم.

الترفيه:تستفيد صناعة الترفيه من التزييف العميق لأغراض متنوعة، بما في ذلك استنساخ ومعالجة أصوات الممثلين للمشاهد في الأفلام وألعاب الفيديو. يثبت هذا النهج قيمته عندما تجعل القيود اللوجستية التصوير التقليدي صعبًا أو عندما يكون الممثلون غير متاحين لتسجيل الصوت خلال مرحلة ما بعد الإنتاج. بالإضافة إلى ذلك، يسهم التزييف العميق في محتوى السخرية والمحاكاة الساخرة، مما يقدم للجمهور رؤى فكاهية وتفسيرات إبداعية لشخصيات مألوفة. مثال توضيحي هو التزييف العميق لعام 2023 الذي يظهر دوين "ذا روك" جونسون في دور دورا المستكشفة، مما يعرض إمكانية التجريب المرح باستخدام تقنية التزييف العميق.

اقرأ أيضًا:هل الذكاء الاصطناعي للتزييف العميق غير قانوني؟

أدوات وتقنيات كشف التزييف العميق

أداة كشف التزييف العميق هي برنامج أو نظام مصمم لتحديد واكتشاف فيديوهات أو صور التزييف العميق. عادةً ما تستخدم طرقًا متنوعة لتحليل المحتوى الرقمي وتحديد ما إذا كان قد تم التلاعب به أو توليده بواسطة الذكاء الاصطناعي.

مع تزايد عدد حالات التزييف العميق، أصبح برنامج كشف التزييف العميق شائعًا بشكل متزايد للحماية من الآثار الضارة للفيديوهات والصوتيات المزيفة. من المتوقع أن يظهر سوق برامج كشف التزييف العميق العالمي معدل نمو سنوي مركب قدره 38.3% من 2024 إلى 2029. ومن المتوقع أن ينمو سوق كشف الصور المزيفة من 0.6 مليار دولار أمريكي في 2024 إلى 3.9 مليار دولار أمريكي بحلول عام 2029 بمعدل نمو سنوي مركب قدره 41.6% خلال فترة التوقعات.

مؤخرًا، قدمت OpenAI أداة لكشف الصور التي تم إنشاؤها بواسطة مولد الذكاء الاصطناعي الخاص بها، DALL-E، حيث حذر الخبراء من أن التزييف العميق المولد بالذكاء الاصطناعي قد يؤثر على الانتخابات. الكاشف، الفعال لصور DALL-E ولكن ليس للصور الأخرى، سيتم اختباره من قبل باحثي التضليل. تعمل OpenAI أيضًا على وضع علامات مائية على محتوى الذكاء الاصطناعي وتنضم إلى جهود مثل C2PA لأصالة المحتوى الرقمي.

قبل أن تقدم OpenAI كاشف التزييف العميق الخاص بها، كانت هناك بالفعل بعض الكاشفات عالية الأداء المتاحة.

Sentinel:Sentinelهو منصة حماية قائمة على الذكاء الاصطناعي تساعد الحكومات الديمقراطية ووكالات الدفاع والمؤسسات على وقف تهديد التزييف العميق. تعتمد منظمات مرموقة في جميع أنحاء أوروبا على تقنية Sentinel للتحصين. تعمل الآلية من خلال السماح للمستخدمين بتقديم محتوى رقمي عبر موقعهم الإلكتروني أو API، ثم إخضاعه للفحص التلقائي بحثًا عن التلاعب بالذكاء الاصطناعي. يميز النظام صحة المحتوى ويوفر تمثيلاً بيانيًا لأي تغييرات تم إجراؤها.

Deepware:Deepwareهي أداة سهلة الاستخدام مصممة لكشف فيديوهات التزييف العميق. باستخدام خوارزميات التعلم الآلي المتقدمة، تقوم بمسح محتوى الفيديو بحثًا عن علامات التلاعب، مثل حركات الوجه غير الطبيعية والتناقضات في الإضاءة والظلال. توفر درجة احتمالية تشير إلى احتمالية أن يكون الفيديو مزيفًا، مما يساعد المستخدمين على تقييم صحته بسرعة.

Sensity:Sensityتقدم منصة شاملة لكشف التزييف العميق في الوقت الفعلي. تستخدم مزيجًا من الرؤية الحاسوبية وتقنيات التعلم العميق لتحليل إطارات الفيديو والإشارات الصوتية. تُستخدم تقنية Sensity من قبل الحكومات والمؤسسات الإعلامية للحماية من انتشار الأخبار المزيفة والمحتوى الخبيث.

أداة التحقق من الفيديو من Microsoft:أداة التحقق من الفيديو من Microsoft تمثل موردًا قويًا قادرًا على فحص كل من الصور الثابتة ومحتوى الفيديو، وتقديم تصنيف ثقة يشير إلى التلاعب المحتمل. تحدد بمهارة حدود المزج المتأصلة في التزييف العميق، بالإضافة إلى الفروق الدقيقة في التدرج الرمادي غير المحسوسة للعين البشرية. علاوة على ذلك، توفر تصنيف الثقة هذا بشكل فوري، مما يسهل التعرف السريع على التزييف العميق.

FakeCatcher من Intel:بمعدل دقة مثير للإعجاب يبلغ 96%، يقدم FakeCatcher نتائج في غضون أجزاء من الثانية. تم تطويره بالتعاون مع أمور تشفتشي من جامعة ولاية نيويورك في بينغامتون، ويستخدم FakeCatcher أجهزة وبرامج Intel، ويعمل على خادم ويمكن الوصول إليه من خلال واجهة قائمة على الويب. يستخدم FakeCatcher نهجًا جديدًا من خلال فحص الفيديوهات الحقيقية بحثًا عن إشارات أصلية تحدد السلوك البشري. يركز على المؤشرات الدقيقة مثل "تدفق الدم" الظاهر في وحدات البكسل في الفيديو. مع دوران الدم، تخضع الأوردة لتغيرات في اللون، ويتم جمع هذه الإشارات الدقيقة من مناطق الوجه المختلفة. تقوم الخوارزميات المتطورة بترجمة هذه الإشارات إلى خرائط مكانية زمانية. من خلال تقنيات التعلم العميق، يحدد FakeCatcher بسرعة صحة الفيديو، ويميز بين المحتوى الحقيقي والمزيف.

الإجابة الصحيحة هي ب، من خلال التلاعب بالرأي العام وإثارة البلبلة.