لماذا يجب الموازنة بين قدرات الذكاء الاصطناعي والخبرة البشرية؟

يتم تسليط الضوء على 'لماذا يجب الموازنة بين قدرات الذكاء الاصطناعي والخبرة البشرية؟' من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت والحوكمة والتبعيات التشغيلية أو رؤية السوق.

• قام الباحثون بتقييم قدرة الذكاء الاصطناعي على اكتشاف نقاط الضعف الأمنية المحتملة في سبعة أنواع شائعة.
• على الرغم من أن الآثار الاقتصادية كبيرة، إلا أن المؤيدين يضعون حماية البيئة وحقوق السكان الأصليين في المقام الأول، مما يمهد الطريق لصراع محتمل.

على الرغم من أن الذكاء الاصطناعي مثل ChatGPT يُظهر قدرات مبهرة في توليد وتحليل الكود، إلا أن هناك شكوكًا حول موثوقيته كمدقق أمني. وهذا يؤكد أهمية استخدام كل من الأدوات المتخصصة والحكم البشري لإجراء تقييمات شاملة لنقاط الضعف المحتملة.

تقييم أنظمة الذكاء الاصطناعي لنقاط الضعف الأمنية الشائعة

مع استمرار تزايد قدرات الذكاء الاصطناعي، اختبر باحثون من Salus Security مؤخرًا GPT-4 وأنظمة ذكاء اصطناعي أخرى لاكتشاف نقاط الضعف الأمنية الشائعة. هدفت الدراسة، التي أجراها خبيران من Salus Security، وهي شركة رائدة في أمن البلوك تشين ولها فروع في أمريكا الشمالية وأوروبا وآسيا، إلى تقييم كفاءة GPT-4 في تحليل ومراجعة العقود الذكية.

اقرأ أيضًا:نظرة على Gemini من Alphabet، نموذج الذكاء الاصطناعي الذي يطمح لتحدي ChatGPT-4

استكشاف الطبيعة المزدوجة للذكاء الاصطناعي

كشف البحث أنه على الرغم من أن الذكاء الاصطناعي، بما في ذلك ChatGPT، يُظهر كفاءة جديرة بالثناء في توليد وتحليل الكود، إلا أن موثوقيته كمدقق أمني لا تزال موضع شك. باستخدام مجموعة بيانات من 35 عقدًا ذكيًا، تُعرف باسم SolidiFI-benchmark Vulnerability Library، والتي تضمنت إجمالي 732 نقطة ضعف، قام الباحثون بتقييم قدرة الذكاء الاصطناعي على تحديد نقاط الضعف الأمنية المحتملة في سبعة أنواع سائدة من نقاط الضعف.

أظهرت النتائج أن ChatGPT يتمتع بدقة عالية تزيد عن 80% في اكتشاف الإيجابيات الحقيقية، والتي تمثل نقاط ضعف فعلية تستحق مزيدًا من التحقيق خارج بيئة خاضعة للرقابة. ومع ذلك، واجه نظام الذكاء الاصطناعي صعوبة في تجنب النتائج السلبية الخاطئة، وهو ما تجلى في معدل استدعاء منخفض بلغ 11% فقط في تجارب فريق Salus. وقد أدى هذا إلى استنتاج أن قدرات اكتشاف نقاط الضعف في GPT-4 محدودة، حيث تبلغ أقصى دقة له 33% فقط.

اقرأ أيضًا:ChatGPT يضيف إمكانية الوصول إلى نماذج GPT الأخرى باستخدام '@'

الحكم البشري والأدوات المتخصصة في تقييمات نقاط الضعف

في ضوء هذه النتائج، أوصى الباحثون بالاعتماد على أدوات التدقيق المتخصصة والخبرة البشرية لفحص العقود الذكية حتى تتمكن أنظمة الذكاء الاصطناعي مثل GPT-4 من تحقيق فعالية مماثلة. يؤكد هذا المنظور على الحاجة إلى نهج حذر عند دمج الذكاء الاصطناعي في مجالات حساسة مثل التدقيق الأمني، ويبرز الدور التكميلي للحكم البشري والأدوات المتخصصة لضمان تقييمات شاملة لنقاط الضعف المحتملة.

تسلط نتائج الدراسة الضوء على المشهد المتغير لتطبيقات الذكاء الاصطناعي في مجال الأمن، وتؤكد على أهمية التحسين المستمر لأنظمة الذكاء الاصطناعي لتلبية المتطلبات الصارمة للتدقيق الأمني. ومع استمرار تقدم تقنيات الذكاء الاصطناعي، يصبح من المهم بشكل متزايد للمؤسسات إيجاد توازن بين الاستفادة من قدرات الذكاء الاصطناعي والاعتراف بقيوده الحالية في المجالات الحيوية مثل تقييم الأمن.

تعد الأفكار المستخلصة من هذا البحث إسهامًا قيمًا في النقاش المستمر حول تقاطع الذكاء الاصطناعي والأمن، مما يدفع أصحاب المصلحة في الصناعة إلى النظر في الآثار الدقيقة لدمج الذكاء الاصطناعي في بروتوكولات الأمان. في المستقبل، قد تحفز هذه الدراسة المزيد من الحوار والابتكارات التي تهدف إلى تعزيز فعالية أدوات التدقيق الأمني المدفوعة بالذكاء الاصطناعي، مما يعزز في النهاية مرونة النظم البيئية الرقمية في مواجهة التهديدات الناشئة.