دودة الذكاء الاصطناعي تثير القلق بشأن ثغرات الأمن السيبراني

يتم تسليط الضوء على AI 'worm' raises alarm on cybersecurity vulnerabilities من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت، والحوكمة، والتبعيات التشغيلية، أو رؤية السوق.

• ابتكر الباحثون 'دودة' ذكاء اصطناعي يمكنها التسلل إلى مساعدي البريد الإلكتروني للذكاء الاصطناعي التوليدي مثل ChatGPT وGemini، متجاوزة الإجراءات الأمنية لاستخراج المعلومات الحساسة وتوزيع رسائل البريد العشوائي.
• أظهر الباحثون كيف يمكن لهذه الديدان أن تعرض سلامة البيانات للخطر وتنتشر إلى المستخدمين غير المنتبهين.

قدمت مجموعة من الباحثين ما يقولون إنها واحدة من أولى ديدان الذكاء الاصطناعي التوليدية، القادرة على الانتشار عبر الأنظمة لسرقة البيانات أو نشر البرمجيات الخبيثة. يسلط هذا التقدم الضوء على نقاط الضعف المتأصلة في النظم البيئية للذكاء الاصطناعي المتصلة، ويعمل كتحذير قوي لشركات التكنولوجيا والمطورين الذين يستفيدون من هذه التقنيات.

استغلال نقاط الضعف في أنظمة الذكاء الاصطناعي

ابتكار الباحثين بن ناسي وستاف كوهين ورون بيتون، دودة الذكاء الاصطناعي المسماةMorris IIتشيد بدودة Morris التخريبية لعام 1988. وباستخدام 'مطالبة عدوانية ذاتية التضاعف'، أظهر الباحثون كيف يمكن لهذا الكيان الخبيث أن يتسلل إلى مساعدي البريد الإلكتروني للذكاء الاصطناعي التوليدي مثل ChatGPT وGemini، متجاوزًا الإجراءات الأمنية لاستخراج المعلومات الحساسة وتوزيع رسائل البريد العشوائي. يسلط هذا الكشف الضوء على التهديد الناشئ الذي تمثله ديدان الذكاء الاصطناعي التوليدي، وهو خطر يعتقد الخبراء أنه قد يكون له آثار بعيدة المدى إذا لم يتم السيطرة عليه.

تضمنت منهجية الباحثين استغلال نقاط الضعف في أنظمة الذكاء الاصطناعي عن طريق حقن مطالبات ذاتية التضاعف، سواء في شكل نص أو مضمنة في ملفات الصور. من خلال سلسلة من الهجمات المحاكاة على نظام بريد إلكتروني مدمج مع عدة نماذج للذكاء الاصطناعي التوليدي، أظهر الفريق كيف يمكن لهذه الديدان أن تعرض سلامة البيانات للخطر وتنتشر إلى المستخدمين غير المنتبهين. من خلال إجبار الذكاء الاصطناعي على توليد تعليمات إضافية في ردوده، على غرار الهجمات الإلكترونية التقليدية مثلحقن SQL، سلط الباحثون الضوء على الحجم المحتمل لهذا النوع الجديد من التهديدات.

اقرأ أيضًا:الهجوم السيبراني على Change Healthcare يثير مخاوف بشأن الأمان

تنبيه الجهات الفاعلة الرئيسية ودعوات للعمل

على الرغم من أن البحث أُجري في بيئات خاضعة للسيطرة وليس ضد منصات متاحة للجمهور، إلا أن الآثار عميقة. مع استمرار نماذج اللغة الكبيرة في التطور والتنوع في القدرات متعددة الوسائط التي تشمل الصور والفيديو، يتسع نطاق الاستغلال. يؤكد ظهور ديدان الذكاء الاصطناعي التوليدي على الحاجة الملحة لتدابير قوية للأمن السيبراني داخل النظام البيئي للذكاء الاصطناعي، مما يحث الجهات الفاعلة في الصناعة على تعزيز دفاعاتها ضد التهديدات الجديدة.

اقرأ أيضًا:ChatGPT تعطل بسبب هجوم DDoS، وليس بسبب شعبيته

الحاجة الملحة لتدابير قوية للأمن السيبراني

استجابةً للنتائج، تم تنبيه الجهات الفاعلة الرئيسية في مجال الذكاء الاصطناعي، مثل Google وOpenAI. بينما تعترف OpenAI بوجود الثغرات وتلتزم بتحسين المرونة ضد مثل هذه الهجمات، تظل Google متكتمة حيال الأمر. يعمل البحث بمثابة دعوة للانتباه إلى اليقظة وإجراءات الأمان الاستباقية في مشهد الذكاء الاصطناعي، مع التأكيد على الحاجة الماسة لتصميم آمن للتطبيقات ومراقبة يقظة لإحباط أي انتهاكات محتملة.

بينما يلوح شبح ديدان الذكاء الاصطناعي التوليدي في الأفق، يحذر الخبراء من أن الخطر المستقبلي الذي تشكله هذه الكيانات هو مصدر قلق ملموس. مع انتشار تطبيقات الذكاء الاصطناعي المكلفة بتنفيذ المهام بشكل مستقل، فإن احتمالية استغلال الجهات الخبيثة للثغرات هي حقيقة ملحة. يقع العبء على عاتق المطورين وأصحاب المصلحة في الصناعة للبقاء في المقدمة، من خلال تنفيذ بروتوكولات أمان صارمة وضمانات للتخفيف من التهديد الوشيك لديدان الذكاء الاصطناعي التوليدي التي تتسلل إلى العالم في السنوات القادمة.