كشف أوهام التزييف العميق والحماية من الخداع

• يخلق التزييف العميق خدعًا صوتية أو فيديو أو بصرية مقنعة، من خلال الجمع بين تقنيات التعلم العميق وإنشاء محتوى مزيف.
• على الرغم من استخداماتها في الترفيه وخدمة العملاء، إلا أن تطبيقاتها الأكثر قتامة تشمل نشر المعلومات المضللة وتسهيل الاحتيال على الهوية.
• سباق التسلح المستمر ضد التزييف العميق يحفز تطوير أدوات الكشف مثل Sentinel و Sensity AI، بالإضافة إلى مبادرات تعاونية مثل C2PA.

التزييف العميق، المدعوم بالذكاء الاصطناعي، يخلق خدعًا صوتية أو فيديو أو بصرية مقنعة، مما يثير قلقين: تطبيقات بريئة في الترفيه إلى استخدامات شريرة مثل نشر المعلومات المضللة وتسهيل الاحتيال على الهوية. ولمواجهة هذا التهديد، تظهر أدوات كشف مثل Sentinel و Sensity AI، إلى جانب مبادرات مثل C2PA.

ما هو الذكاء الاصطناعي للتزييف العميق؟

الذكاء الاصطناعي للتزييف العميق هو شكل من أشكال الذكاء الاصطناعي يستخدم لإنتاج صور وأصوات وفيديوهات خادعة مقنعة. يشمل المصطلح كلاً من التكنولوجيا نفسها والمحتوى الخادع الناتج، وهو مزيج من « التعلم العميق » و « المزيف ».

عادة ما يتلاعب التزييف العميق بالمواد المصدرية الموجودة، عن طريق استبدال شخص بآخر. كما أنه يولد محتوى جديدًا بالكامل يظهر أفرادًا وهم يقومون بأفعال أو يقولون كلمات لم يقولها أو يفعلوها في الواقع أبدًا.

القلق الرئيسي بشأن التزييف العميق هو قدرته على نشر معلومات مضللة تبدو وكأنها من مصادر موثوقة. على سبيل المثال، في عام 2022، تم تداول فيديو مزيف يظهر الرئيس الأوكراني فولوديمير زيلينسكي وهو يحث قواته allegedly على الاستسلام.

هناك أيضًا مخاوف بشأن التدخل المحتمل في الانتخابات ونشر الدعاية الانتخابية. « المستشارون السياسيون، والحملات، والمرشحون، وحتى أفراد الجمهور يستخدمون هذه التكنولوجيا دون فهم كامل لكيفية عملها، والأهم من ذلك، جميع المخاطر المحتملة التي يمكن أن تسببها »، قالت كارا أونج والي، مديرة البرنامج الأكاديمي في مركز السياسة بجامعة فيرجينيا. « أنا قلقة بشكل خاص بشأن استخدام الذكاء الاصطناعي للتلاعب بالناخبين - ليس فقط من خلال التزييف العميق، ولكن أيضًا من خلال قدرة الذكاء الاصطناعي التوليدي على القيام باستهداف دقيق للغاية عبر حملات الرسائل النصية والبريد الإلكتروني »، أضافت.

المستشارون السياسيون، والحملات، والمرشحون، وحتى أفراد الجمهور يستخدمون هذه التكنولوجيا دون فهم كامل لكيفية عملها، والأهم من ذلك، جميع المخاطر المحتملة التي يمكن أن تسببها.

كارا أونج والي، مديرة البرنامج الأكاديمي في مركز السياسة بجامعة فيرجينيا

على الرغم من المخاطر الكبيرة المرتبطة بالتزييف العميق، إلا أن له أيضًا تطبيقات مشروعة، مثل الصوت في ألعاب الفيديو والترفيه، وكذلك في دعم العملاء وأنظمة الرد على المكالمات، مثل تحويل المكالمات وخدمات الاستقبال.

اقرأ أيضًا:هل الذكاء الاصطناعي التوليدي هو تزييف عميق؟

تطبيقات تقنية التزييف العميق

التطبيقات السلبية

الابتزاز والإضرار بالسمعة:يحدث ذلك عندما يتم وضع صورة هدف في سيناريو غير قانوني أو غير لائق أو مساوم، مثل خداع الجمهور، أو المشاركة في أنشطة جنسية صريحة، أو تعاطي المخدرات. تُستخدم هذه الفيديوهات لإكراه الضحية، أو تشويه سمعة فرد، أو الانتقام، أو الانخراط في التحرش الإلكتروني. الشكل الأكثر انتشارًا للابتزاز أو الانتقام هو المواد الإباحية غير التوافقية للتزييف العميق، المعروفة باسم الابتزاز الجنسي. في عام 2019، تم تطوير برنامج يسمى DeepNude، قادر على جعل امرأة عارية بنقرة واحدة، وانتشر بسرعة بشكل فيروسي لأغراض ضارة، بما في ذلك مضايقة النساء.

الأدلة المزيفة:يمكن تقديم صور أو أصوات تزييف عميق مزيفة كأدلة في الإجراءات القضائية، مما يؤدي إلى تورط أفراد زورًا أو تبرئتهم من أفعال سيئة.

الاحتيال:يُستخدم التزييف العميق لانتحال هوية الأفراد، غالبًا بهدف الحصول على معلومات شخصية حساسة مثل التفاصيل المصرفية أو أرقام بطاقات الائتمان. يمكن أن يمتد هذا الانتحال إلى كبار المسؤولين التنفيذيين أو الموظفين الذين لديهم إمكانية الوصول إلى بيانات سرية، مما يشكل تهديدات كبيرة للأمن السيبراني.

ووفقًا لـ IEEE Spectrum، « كان الاحتيال على الهوية هو الشاغل الرئيسي بشأن التزييف العميق لأكثر من ثلاثة أرباع المستجيبين لاستطلاع صناعة الأمن السيبراني الذي أجرته شركة القياسات الحيوية iProov. »

المعلومات المضللة والتلاعب السياسي:تُستخدم فيديوهات التزييف العميق لسياسيين أو شخصيات موثوقة للتلاعب بالرأي العام وإثارة البلبلة، مما يساهم غالبًا في نشر الأخبار الزائفة. تقريبًا جميع زعماء العالم، بما في ذلك باراك أوباما الرئيس السابق للولايات المتحدة، ودونالد ترامب الرئيس السابق للولايات المتحدة، ونانسي بيلوسي السياسية الأمريكية، وأنجيلا ميركل المستشارة الألمانية، تم استغلالهم بطريقة أو بأخرى بفيديوهات مزيفة، وحتى مؤسس فيسبوك مارك زوكربيرغ واجه حالة مماثلة. حالات مثل فيديو التزييف العميق للرئيس الأوكراني فولوديمير زيلينسكي توضح قدرة التزييف العميق على تفاقم الصراعات وزعزعة استقرار المواقف.

التلاعب بالأسواق المالية:يمكن لمحتوى التزييف العميق المزيف أن يؤثر على أسعار الأسهم، من خلال فيديوهات مزيفة تظهر قادة شركات يدلون بتصريحات ضارة عن شركاتهم، مما يؤدي إلى انخفاض قيمة الأسهم. على العكس، يمكن للفيديوهات الملفقة التي تروج لتقدم تكنولوجي أو إطلاق منتجات أن ترفع قيمة الأسهم بشكل مصطنع.

اختبار

كيف تساهم فيديوهات التزييف العميق لسياسيين أو شخصيات موثوقة في المعلومات المضللة؟
أ. من خلال توفير معلومات دقيقة للجمهور
ب. من خلال التلاعب بالرأي العام وإثارة البلبلة
ج. من خلال كشف الفساد السياسي
د. من خلال تعزيز الشفافية داخل الحكومة

الإجابة الصحيحة موجودة في أسفل المقال.

التطبيقات الإيجابية

الفن:يُستخدم التزييف العميق لتوليد مؤلفات موسيقية جديدة من التسجيلات الموجودة لأعمال الفنانين، مما يتيح أساليب مبتكرة في إنشاء الموسيقى وإعادة المزج. وقد أدت تقنية التزييف العميق إلى إضفاء الطابع الديمقراطي على إنشاء الأعمال الفنية، مما جعلها في متناول نطاق أوسع من الأشخاص. فهي تسمح للفنانين بإنتاج قطع مبتكرة، تجذب الجمهور بتجارب فريدة. على سبيل المثال، استخدم متحف دالي في سانت بطرسبرغ بولاية فلوريدا تقنية التزييف العميق لإحياء سلفادور دالي، مما سمح للزوار بالتفاعل مع الفنان الشهير من خلال الذكاء الاصطناعي.

التسويق الرقمي:تُستخدم تقنية التزييف العميق بشكل متزايد في استراتيجيات التسويق الرقمي لإنشاء محتوى جذاب وغامر. من خلال الاستفادة من التزييف العميق، يمكن للمسوقين تطوير إعلانات ومواد ترويجية عالية التخصيص، مصممة حسب تفضيلات كل فرد وخصائصه الديموغرافية. على سبيل المثال، يمكن استخدام التزييف العميق لتركيب صور المنتجات على سيناريوهات حقيقية، مما يسمح للمستهلكين بتصور فوائد المنتج في بيئتهم الخاصة. بالإضافة إلى ذلك، تتيح تقنية التزييف العميق إنشاء حملات سرد قصصي مقنعة، مما يعزز التفاعل مع العلامة التجارية والولاء للعملاء. علاوة على ذلك، يوفر التزييف العميق للمسوقين فرصة إعادة استخدام المحتوى الحالي بطرق مبتكرة، مما يعظم العائد على الاستثمار للحملات الإعلانية.

يتم تطبيق هذه التكنولوجيا بشكل متزايد في التسويق الرقمي، مما يسمح للشركات بتقليل تكاليفها، وتصميم الحملات الترويجية بسهولة أكبر، وتخصيص عروضها، وتقديم تجارب فريدة لعملائها، ولكن أيضًا توعية السوق المستهدف ببعض القضايا الحساسة ذات الأهمية الاجتماعية.

رادوسلاف بالتازاريفيتش، نائب العميد للدراسات العليا والبحث العلمي

خدمات الرد على المكالمات:تستخدم هذه الخدمات التزييف العميق لتقديم ردود مخصصة لاستفسارات المتصلين، مما يحسن التفاعل ورضا العملاء، خاصة في مهام تحويل المكالمات وخدمات الاستقبال.

دعم العملاء عبر الهاتف:باستخدام أصوات تركيبية تم إنشاؤها بواسطة تقنية التزييف العميق، تعمل خدمات دعم العملاء على تبسيط المهام الروتينية مثل التحقق من أرصدة الحسابات أو تقديم المطالبات، مما يحسن الكفاءة وتجربة المستخدم.

الترفيه:تستخدم صناعة الترفيه التزييف العميق لأغراض متنوعة، بما في ذلك استنساخ ومعالجة أصوات الممثلين لمشاهد الأفلام وألعاب الفيديو. يثبت هذا النهج قيمته عندما تجعل القيود اللوجستية التصوير التقليدي صعبًا أو عندما لا يكون الممثلون متاحين للتسجيل الصوتي في مرحلة ما بعد الإنتاج. بالإضافة إلى ذلك، يساهم التزييف العميق في المحتوى الساخر والمحاكاة الساخرة، مما يوفر للجمهور وجهات نظر فكاهية وتفسيرات إبداعية للشخصيات المألوفة. مثال توضيحي هو تزييف عميق في عام 2023 يضم دوين « ذا روك » جونسون في دور دورا المستكشفة، مما يظهر إمكانات التجريب المرح مع تقنية التزييف العميق.

اقرأ أيضًا:هل الذكاء الاصطناعي للتزييف العميق غير قانوني؟

أدوات وتقنيات كشف التزييف العميق

أداة كشف التزييف العميق هي برنامج أو نظام مصمم لتحديد وكشف فيديوهات أو صور التزييف العميق. عادة ما يستخدم أساليب متنوعة لتحليل المحتوى الرقمي وتحديد ما إذا كان قد تم التلاعب به أو توليده بواسطة الذكاء الاصطناعي.

مع العدد المتزايد من حالات التزييف العميق، أصبحت برامج كشف التزييف العميق أكثر شيوعًا للحماية من الآثار الضارة للفيديوهات المزيفة والتسجيلات الصوتية المزيفة. من المتوقع أن يحقق السوق العالمي لبرامج كشف التزييف العميق معدل نمو سنوي مركب قدره 38.3٪ من 2024 إلى 2029. ومن المتوقع أن يرتفع حجم سوق كشف الصور المزيفة من 0.6 مليار دولار في 2024 إلى 3.9 مليار دولار بحلول عام 2029، بمعدل نمو سنوي مركب قدره 41.6٪ خلال فترة التوقعات.

مؤخرًا، قدمت OpenAI أداة لكشف الصور التي تم إنشاؤها بواسطة مولد الذكاء الاصطناعي الخاص بها DALL-E، بينما يحذر الخبراء من تأثير التزييف العميق المولد بالذكاء الاصطناعي على الانتخابات. الكاشف، الفعال لصور DALL-E ولكن ليس للصور الأخرى، سيتم اختباره من قبل باحثي المعلومات المضللة. تعمل OpenAI أيضًا على وضع علامات مائية لمحتوى الذكاء الاصطناعي وتشارك في جهود مثل C2PA لأصالة المحتوى الرقمي.

قبل أن تقدم OpenAI كاشف التزييف العميق الخاص بها، كانت هناك بالفعل كاشفات عالية الأداء متاحة.

Sentinel:Sentinelهي منصة حماية قائمة على الذكاء الاصطناعي تساعد الحكومات الديمقراطية ووكالات الدفاع والشركات في مواجهة تهديد التزييف العميق. تعتمد منظمات مرموقة في جميع أنحاء أوروبا على تقنية Sentinel لتعزيز حصونها. آلية العمل تسمح للمستخدمين بإرسال محتوى رقمي عبر موقعهم الإلكتروني أو واجهة برمجة التطبيقات، وبعد ذلك يخضع لفحص آلي لاكتشاف أي تلاعب بالذكاء الاصطناعي. يميز النظام أصالة المحتوى ويوفر تمثيلاً بيانيًا لأي تعديلات تم إجراؤها.

Deepware:Deepwareهي أداة سهلة الاستخدام مصممة لكشف فيديوهات التزييف العميق. من خلال خوارزميات التعلم الآلي المتقدمة، تحلل محتوى الفيديو بحثًا عن علامات التلاعب، مثل حركات الوجه غير الطبيعية والتناقضات في الإضاءة والظلال. توفر درجة احتمالية تشير إلى احتمال أن يكون الفيديو مزيفًا، مما يساعد المستخدمين على تقييم صحته بسرعة.

Sensity:Sensityتقدم منصة شاملة لكشف التزييف العميق في الوقت الفعلي. تستخدم مزيجًا من رؤية الكمبيوتر وتقنيات التعلم العميق لتحليل صور الفيديو والإشارات الصوتية. تُستخدم تقنية Sensity من قبل الحكومات ووسائل الإعلام للحماية من انتشار الأخبار المزيفة والمحتوى الضار.

أداة Microsoft للتحقق من صحة الفيديو:تشكل أداة التحقق من صحة الفيديو من Microsoft موردًا قويًا قادرًا على فحص كل من الصور الثابتة ومحتوى الفيديو، مع تقديم درجة ثقة تشير إلى التلاعب المحتمل. تحدد ببراعة حدود الدمج المتأصلة في التزييف العميق، بالإضافة إلى الفروق الدقيقة في مستويات الرمادي غير المحسوسة للعين البشرية. بالإضافة إلى ذلك، فإنها توفر درجة الثقة هذه على الفور، مما يسهل التحديد السريع للتزييف العميق.

FakeCatcher من Intel:بمعدل دقة مذهل يبلغ 96٪، يوفر FakeCatcher نتائج في غضون بضعة أجزاء من الألف من الثانية. تم تطويره بالتعاون مع أومور جفتجي من جامعة ولاية نيويورك في بينغامتون، ويستخدم FakeCatcher أجهزة وبرامج Intel، ويعمل على خادم ويمكن الوصول إليه عبر واجهة ويب. يستخدم FakeCatcher نهجًا مبتكرًا من خلال فحص الفيديوهات الحقيقية بحثًا عن أدلة تحدد السلوك البشري. يركز على مؤشرات دقيقة مثل « تدفق الدم » المرئي في بكسلات الفيديو. عندما يتدفق الدم، يتغير لون الأورام، ويتم جمع هذه الإشارات الدقيقة من مناطق مختلفة من الوجه. تقوم خوارزميات متطورة بعد ذلك بتحويل هذه الإشارات إلى خرائط مكانية زمنية. من خلال تقنيات التعلم العميق، يحدد FakeCatcher بسرعة صحة الفيديو، ويميز بين المحتوى الحقيقي والمحتوى الملفق.

الإجابة الصحيحة هي ب، من خلال التلاعب بالرأي العام وإثارة البلبلة.