- تقدم Microsoft Azure ميزات أمان جديدة لنماذج الذكاء الاصطناعي، بما في ذلك Prompt Shields وGroundedness Detection، بهدف اكتشاف الثغرات وحظر المطالبات الضارة.
- تعمل هذه الميزات على تحسين التحكم في تصفية المحتوى غير المناسب، معالجة المخاوف بشأن أمان نماذج الذكاء الاصطناعي.
- يتماشى التزام Microsoft بأمان الذكاء الاصطناعي مع توسع قدرات Azure في الذكاء الاصطناعي في ظل الطلب المتزايد.
تكشف سارة بيرد، مديرة المنتج الرئيسية للذكاء الاصطناعي المسؤول في Microsoft، لـ The Verge في مقابلة عن نشر ميزات أمان جديدة صممها فريقها لعملاء Azure. تهدف هذه الميزات، التي تعمل بتقنية LLM، إلى اكتشاف الثغرات، ومراقبة السيناريوهات المعقولة ولكن غير المدعومة، وحظر المطالبات الضارة في الوقت الفعلي للمستخدمين الذين يستخدمون نماذج الذكاء الاصطناعيAzure.
اقرأ أيضًا:Windows ينتقل إلى إدارة جديدة بسبب إعادة تنظيم الذكاء الاصطناعي من Microsoft
اقرأ أيضًا:Microsoft Teams يحصل على ميزات ذكاء اصطناعي Copilot أكثر ذكاءً
ميزات متنوعة لتحسين الأمان
تتضمن الميزات Prompt Shields، وGroundedness Detection، وتقييمات الأمان، مع ميزات إضافية مثل توجيه النماذج إلى مخرجات آمنة وتتبع المطالبات للمستخدمين الذين قد يكونون مشكلين. ومن الجدير بالذكر أن النظام يقيم المطالبات الواردة للكلمات المحظورة والإشارات المخفية قبل المعالجة، مما يضمن توافق الردود مع النتائج المرجوة.
يمكنه تصفية خطاب الكراهية أو العنف في نماذج الذكاء الاصطناعي
تؤكد Bird على التحكم القابل للتخصيص في تصفية خطاب الكراهية أو العنف في نماذج الذكاء الاصطناعي، معالجة المخاوف بشأن المحتوى غير المناسب. تمتد إجراءات الأمان هذه إلى نماذج شائعة مثلGPT-4وLlama 2، على الرغم من أن مستخدمي النماذج مفتوحة المصدر الأصغر والأقل استخدامًا قد يحتاجون إلى تكوين الميزات يدويًا.
يتماشى التزام Microsoft بتحسين أمان الذكاء الاصطناعي مع الطلب المتزايد على قدرات Azure في الذكاء الاصطناعي، والتي تؤكدها الشراكات الأخيرة التي تهدف إلى توسيع عروض النماذج.