• ابتكر باحثون "دودة" ذكاء اصطناعي يمكنها التسلل إلى مساعدي البريد الإلكتروني للذكاء الاصطناعي التوليدي مثل ChatGPT وGemini، متجاوزة إجراءات الأمن لاستخراج معلومات سرية وتوزيع رسائل غير مرغوب فيها.
  • وأظهر الباحثون كيف يمكن لهذه الديدان أن تهدد سلامة البيانات وتنتشر إلى مستخدمين غير مدركين.

قدمت مجموعة من الباحثين ما يقولون إنها واحدة من أولى ديدان الذكاء الاصطناعي التوليدي، القادرة على الانتشار عبر الأنظمة لسرقة البيانات أو نشر البرامج الضارة. يسلط هذا التقدم الضوء على الثغرات الكامنة في النظم البيئية للذكاء الاصطناعي المتصلة ويعمل كتحذير قوي لشركات التكنولوجيا والمطورين الذين يستخدمون هذه التقنيات.

استغلال الثغرات في أنظمة الذكاء الاصطناعي

ابتكار الباحثين Ben Nassi وStav Cohen وRon Bitton، دودة الذكاء الاصطناعي المسماة Morris II تشيد بدودة Morris الحاسوبية الثورية عام 1988. من خلال استغلال "مطالبة خصومية ذاتية التكرار"، أظهر الباحثون كيف يمكن لهذا الكيان الخبيث التسلل إلى مساعدي البريد الإلكتروني للذكاء الاصطناعي التوليدي مثل ChatGPT وGemini، متجاوزًا إجراءات الأمن لاستخراج معلومات سرية وتوزيع رسائل غير مرغوب فيها. يسلط هذا الكشف الضوء على التهديد الناشئ الذي تمثله ديدان الذكاء الاصطناعي التوليدي، وهو خطر يعتقد الخبراء أنه قد يكون له آثار بعيدة المدى إذا لم يتم السيطرة عليه.

تضمنت منهجية الباحثين استغلال الثغرات في أنظمة الذكاء الاصطناعي عن طريق حقن مطالبات ذاتية التكرار، سواء في شكل نص أو مدمجة في ملفات الصور. من خلال سلسلة من الهجمات المحاكاة على نظام بريد إلكتروني مدمج مع عدة نماذج للذكاء الاصطناعي التوليدي، أظهر الفريق كيف يمكن لهذه الديدان أن تهدد سلامة البيانات وتنتشر إلى مستخدمين غير مدركين. من خلال إجبار الذكاء الاصطناعي على توليد المزيد من التعليمات في ردوده، على غرار الهجمات الإلكترونية التقليدية مثلحقن SQL، أبرز الباحثون الحجم المحتمل لهذا النوع الجديد من التهديدات.

اقرأ أيضًا:هجوم إلكتروني على Change Healthcare يثير مخاوف بشأن الأمن

تنبيه الفاعلين الرئيسيين ودعوات للتحرك

على الرغم من أن البحث أجري في بيئات خاضعة للسيطرة وليس ضد منصات متاحة للجمهور، إلا أن الآثار عميقة. مع استمرار تطور نماذج اللغة الكبيرة وتنوعها في القدرات متعددة الوسائط التي تشمل الصور والفيديو، يتسع نطاق الاستغلال. ظهور ديدان الذكاء الاصطناعي التوليدي يؤكد الحاجة الملحة إلى إجراءات قوية للأمن السيبراني داخل النظام البيئي للذكاء الاصطناعي، مما يحث الجهات الفاعلة في الصناعة على تعزيز دفاعاتها ضد التهديدات الجديدة.

اقرأ أيضًا:انقطاع ChatGPT بسبب هجوم DDoS وليس بسبب شعبيته

ضرورة اتخاذ إجراءات قوية للأمن السيبراني

استجابةً للنتائج، تم تنبيه الفاعلين الرئيسيين في مجال الذكاء الاصطناعي، مثل Google وOpenAI. بينما تعترف OpenAI بالثغرة وتلتزم بتحسين المرونة ضد مثل هذه الهجمات، ظلت Google متكتمة بشأن هذا الأمر. البحث بمثابة دعوة للاستيقاظ إلى اليقظة وتدابير الأمن الاستباقية في مشهد الذكاء الاصطناعي، مع التأكيد على الحاجة الماسة لتصميم تطبيقات آمنة ومراقبة يقظة لإحباط الانتهاكات المحتملة.

بينما يلوح شبح ديدان الذكاء الاصطناعي التوليدي في الأفق، يحذر الخبراء من أن الخطر المستقبلي الذي تشكله هذه الكيانات هو مصدر قلق ملموس. مع انتشار تطبيقات الذكاء الاصطناعي المكلفة بتنفيذ المهام بشكل مستقل، فإن احتمالية استغلال الجهات الخبيثة للثغرات هي حقيقة ملحة. تقع المسؤولية على عاتق المطورين وأصحاب المصلحة في الصناعة للبقاء في المقدمة، من خلال تنفيذ بروتوكولات أمنية صارمة وضمانات للتخفيف من التهديد الوشيك لديدان الذكاء الاصطناعي التوليدي التي تتسلل إلى البرية في السنوات القادمة.