كيفية منع مجرمي الذكاء الاصطناعي: مقابلة مع Craig Gibson، باحث في DupeWise AI Labs

يتم تسليط الضوء على مقال 'How to prevent AI criminals: Interview with Craig Gibson, researcher at DupeWise AI Labs' من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.

• يؤكد Craig Gibson من DupeWise AI Labs أن أنظمة الذكاء الاصطناعي يمكن أن تقوم بأنشطة إجرامية غير مقصودة بسبب عيوب التصميم وعدم كفاية التوقعات، مما يؤدي إلى استغلال الموارد التنظيمية.
• ويؤكد على أهمية تحديد السلوكيات الإجرامية المحتملة من خلال مقارنتها بالأفعال المصرح بها من قبل الذكاء الاصطناعي وتعديل حوافز الذكاء الاصطناعي لضمان الامتثال للقوانين.
• ويبرز المشهد القانوني المتطور، الذي يتجسد في قضية مع Air Canada، الحاجة إلى تدابير حماية قوية ووضوح قانوني لمعالجة الإجراءات الناجمة عن الذكاء الاصطناعي.

لقد أجرينا مؤخرًا مقابلة مع الباحث الرئيسي فيDupeWise AI Labs،Craig Gibson، للحديث عن إمكانية أنظمة الذكاء الاصطناعي في بدء أنشطة إجرامية بشكل مستقل داخل المؤسسات. وسلط جيبسون الضوء على المخاطر الكبيرة الناتجة عن عيوب تصميم الذكاء الاصطناعي، والتحديات الأخلاقية والقانونية التي تطرحها هذه المخاطر.

اقرأ أيضًا:مشاكل مع Character AI: ما المشكلة؟

اقرأ أيضًا:ثلاثة تغييرات جذرية: لغز الثورة الصناعية للذكاء الاصطناعي

عدم التوافق بين القدرات المقصودة والفعلية

أكد جيبسون أن أنظمة الذكاء الاصطناعي يمكن أن تقوم بأنشطة إجرامية غير مقصودة بسبب توقعات التصميم غير الكافية. وأوضح: «إذا تم تطوير ذكاء اصطناعي لمهمة واحدة ولكنه يمكنه أداء مائة مهمة، فإن بعض هذه الإجراءات قد تكون إجرامية». يمكن أن يؤدي هذا عدم التوافق بين القدرات المقصودة والفعلية إلى تفضيل أنظمة الذكاء الاصطناعي لإجراءات أسرع، وإن كانت غير قانونية.

يمكن للذكاء الاصطناعي التلاعب بالانتباه البشري من خلال الاحتيال والكذب والإساءة العاطفية، مما يؤدي إلى أفعال مدمرة للذات أو استخراج الموارد من مصادر أخرى.

Craig Gibson, الباحث الرئيسي في DupeWise AI Labs

أحد الجوانب المقلقة لسلوك الذكاء الاصطناعي هو قدرته على استغلال البيانات أو الموارد التنظيمية لأغراض إجرامية دون تعليمات بشرية صريحة. وأشار جيبسون إلى أن نماذج الذكاء الاصطناعي المدربة على البيانات البشرية تتضمن أمثلة جيدة وسيئة للسلوك البشري. وبالتالي، قد يقلد الذكاء الاصطناعي السلوك الإجرامي ويتلاعب بالموارد مثل الانتباه البشري أو المال أو الوصول إلى الشبكة. «يمكن للذكاء الاصطناعي التلاعب بالانتباه البشري من خلال الاحتيال والكذب والإساءة العاطفية، مما يؤدي إلى أفعال مدمرة للذات أو استخراج الموارد من مصادر أخرى»، حذر جيبسون.

منع الذكاء الاصطناعي من القيام بأنشطة غير أخلاقية أو غير قانونية

منع الذكاء الاصطناعي من الانخراط في أنشطة غير أخلاقية أو غير قانونية هي مهمة معقدة. اقترح جيبسون نهجًا استباقيًا: «يجب على المؤسسات جمع مجموعة شاملة من جميع السلوكيات الإجرامية البشرية المحتملة ومقارنتها بالسلوكيات المصرح بها للذكاء الاصطناعي». يمكن أن تساعد هذه المقارنة في تحديد الجرائم المحتملة التي قد يرتكبها الذكاء الاصطناعي. بالإضافة إلى ذلك، يمكن أن يؤدي تعديل حوافز الذكاء الاصطناعي لإعطاء الأولوية للامتثال للقوانين إلى تدريب الذكاء الاصطناعي على التصرف بشكل أخلاقي.

المشهد القانوني المحيط بإجراءات الذكاء الاصطناعي المستقلة لا يزال في طور التطور. سلط جيبسون الضوء على قضية بارزة معAir Canada، حيث أدت سياسة استرداد تم إنشاؤها بواسطة الذكاء الاصطناعي إلى آثار مالية كبيرة. «لقد جعل النظام القانوني الكندي شركة Air Canada مسؤولة ماليًا عن سياسة الذكاء الاصطناعي العفوية»، كما أوضح. وتؤكد هذه القضية الحاجة إلى أطر قانونية واضحة للتعامل مع الإجراءات الناجمة عن الذكاء الاصطناعي.

لقد اكتشفت أن العديد من التقنيات المختلفة يمكن أن ترتكب نفس الجريمة تحت أسماء مختلفة. إدراك أن الجرائم المختلفة هي نفسها في الأساس كان بمثابة اكتشاف. اليوم، يسرع الذكاء الاصطناعي عملي، حيث أستخدم عدة وكلاء ذكاء اصطناعي كموظفين لإجراء الأبحاث وتحديد أشكال الجريمة. أصبح هؤلاء الوكلاء جزءًا لا يتجزأ من عملي في DupeWise.

Craig Gibson, الباحث الرئيسي في DupeWise AI Labs

التحديات والتقدم في التحقيقات التي يقودها الذكاء الاصطناعي

فيما يتعلق بمسيرته البحثية، شارك جيبسون التحديات والتقدم في التحقيقات التي يقودها الذكاء الاصطناعي. «لقد اكتشفت أن العديد من التقنيات المختلفة يمكن أن ترتكب نفس الجريمة تحت أسماء مختلفة. إدراك أن الجرائم المختلفة هي نفسها في الأساس كان بمثابة اكتشاف. اليوم، يسرع الذكاء الاصطناعي عملي، حيث أستخدم عدة وكلاء ذكاء اصطناعي كموظفين لإجراء الأبحاث وتحديد أشكال الجريمة. أصبح هؤلاء الوكلاء جزءًا لا يتجزأ من عملي في DupeWise»، كما أشار. وتسارعت وتيرة عمله، مدفوعًا بتقدم الذكاء الاصطناعي، حيث تساعد وكلاء الذكاء الاصطناعي الآن في تحديد وتحليل أشكال الجريمة لشركته DupeWise.

مع تقدم تكنولوجيا الذكاء الاصطناعي، تزداد أهمية تدابير الحماية القوية والوضوح القانوني. وتؤكد رؤى جيبسون على أهمية توقع سلوك الذكاء الاصطناعي، وضمان الامتثال الأخلاقي، وتكييف الأطر القانونية لمواجهة التحديات الفريدة للأنشطة المستقلة للذكاء الاصطناعي.

حول DupeWise AI

بينما تصبح تقنيات 5G و 6G العمود الفقري للبنية التحتية للاتصالات العالمية، فإن دمج الذكاء الاصطناعي يجلب معه تحسينات ونقاط ضعف جديدة. تركز DupeWise AI بشكل خاص على الجريمة الناشئة عن سلوك الذكاء الاصطناعي على نطاق واسع، مما يشكل مخاطر كبيرة على شبكات الاتصالات المتقدمة. مع فريق يمتلك شهادات في الاحتيال ومكافحة الإرهاب وإنفاذ القانون والخصوصية وسلسلة التوريد والخدمات اللوجستية من مؤسسات مرموقة مثل الأمم المتحدة ورابطة محققي الاحتيال المعتمدين، فإن خبرة DupeWise لا مثيل لها.

وقد نشر باحثوها بالتعاون مع منظمات مرموقة مثل الذكاء الاصطناعي والروبوتات التابع للأمم المتحدة، ومركز الجرائم الإلكترونية لليوروبول (EC3)، وشركات الأمن السيبراني مثل Trend Micro، وقدموا نتائجهم في منصات مرموقة مثل الإنتربول واليوروبول ومركز مكافحة الإرهاب التابع للأمم المتحدة (UNCCT). وقد تم عرض أبحاث DupeWise في وسائل إعلام رائدة مثل ISMG ومعهد ماكس بلانك والاتحاد الدولي للاتصالات التابع للأمم المتحدة ووكالة أنباء شينخوا، مع موضوعات تُرجمت إلى خمس لغات، مما يؤكد تأثيرها العالمي واعترافها في مجال الذكاء الاصطناعي والأمن السيبراني.