Cloudflare تطلق «جدار ناري للذكاء الاصطناعي» لحماية LLMs

يتم تسليط الضوء على Cloudflare تطلق جداراً نارياً للذكاء الاصطناعي لحماية LLMs من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.

• «جدار ناري للذكاء الاصطناعي» متاح لعملاء المؤسسات من عرض Application Security Advanced من مزود الخدمات السحابية والأمن. عند الإطلاق، يتضمن ميزتين: تحديد المعدل المتقدم وكشف البيانات الحساسة.
• تحديد المعدل المتقدم يسمح للعميل بإنشاء قاعدة تحدد الحد الأقصى لمعدل الطلبات من عنوان IP أو مفتاح API خلال جلسة.
• كشف البيانات الحساسة يمنع نماذج LLMs من تسريب بيانات سرية في الردود على الاستفسارات.

Cloudflareأعلنت عن إطلاق خدمتها «جدار ناري للذكاء الاصطناعي» لتعزيز الحماية للتطبيقات التي تستخدم نماذج اللغات الكبيرة (LLMs). يأتي هذا التطور في وقت مناسب، حيث تواجه صناعة التكنولوجيا التحدي المزدوج المتمثل في تعظيم إمكانات LLMs مع حمايتها من نقاط الضعف.

جدار Cloudflare الناري للذكاء الاصطناعي وميزاته الرئيسية

متاح لعملاء المؤسسات من عرض Application Security Advanced من Cloudflare، يقدم خدمة جدار ناري للذكاء الاصطناعي ميزتين أساسيتين: تحديد المعدل المتقدم وكشف البيانات الحساسة. الأول يسمح للشركات بوضع حد أقصى لمعدل الطلبات من عنوان IP أو مفتاح API، وهو إجراء مصمم لمواجهة هجمات الحرمان من الخدمة الموزعة (DDoS) وضمان التشغيل السليم لـ LLMs. والثاني يهدف إلى منع تسرب البيانات السرية عن غير قصد من خلال السماح للعملاء بتكوين قواعد تحلل وتصف المعلومات الحساسة، مثل التفاصيل المالية ومفاتيح API، من ردود LLMs.

على الرغم من أن هذه الميزات تمثل تقدمًا كبيرًا في حماية LLMs من سوء الاستخدام وانتهاكات البيانات، إلا أن Cloudflare تدرك حدود التقنيات الحالية في التخفيف الكامل من المخاطر المتعلقة بالمحتوى الناتج عن الذكاء الاصطناعي. إن عدم وجود قاعدة جدار ناري لمنع نشر معلومات غير دقيقة أو ملفقة بواسطة LLMs يسلط الضوء على التحديات المعقدة القادمة في مجال أمن الذكاء الاصطناعي.

اقرأ أيضًا:SNSKIES: حلول أمن سيبراني مخصصة وأحداث تواصل للشركات

ميزة التحقق من المطالبات لتعزيز الأمان

تخطط Cloudflare لتقديم ميزة التحقق من المطالبات التي هي حاليًا في مرحلة الاختبار التجريبي. هذه الأداة المبتكرة مصممة لمواجهة هجمات حقن المطالبات، حيث يقوم المستخدمون الخبيثون بالتلاعب بـ LLMs لتوليد محتوى غير مناسب أو غير قانوني. من خلال تحليل وتقييم كل مطالبة بناءً على احتمالية ضررها، والسماح للعملاء بحظر أو السماح بالطلبات وفقًا لذلك، تهدف Cloudflare إلى إضافة طبقة أمان إضافية لاستخدام LLMs.

تتجاوز أهمية جدار Cloudflare الناري للذكاء الاصطناعي ميزاته المباشرة. في وقت يتم فيه دمج LLMs بسرعة في مجموعة واسعة من المنتجات والخدمات، أصبحت احتمالية الأخطاء والتلفيقات ونقاط الضعف الأمنية مصدر قلق ملح. قامت شركات التكنولوجيا الكبرى، بما في ذلك Google، بتوسيع برامج مكافأة الأخطاء لتشمل منتجات الذكاء الاصطناعي، مما يعكس اعتراف الصناعة بالتهديدات الناشئة التي تشكلها تقنيات الذكاء الاصطناعي المتطورة.