تم تسليط الضوء على نظام أمان مايكروسوفت القادر على اكتشاف الهلوسات في تطبيقات الذكاء الاصطناعي بواسطة BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.
يتم تتبع نظام أمان مايكروسوفت القادر على اكتشاف الهلوسات في تطبيقات الذكاء الاصطناعي كمؤسسة للبنية التحتية للإنترنت ضمن نظام البنية التحتية للإنترنت.
تدعم إشارات المصادر العامة مراقبة ذات تأثير متوسط لرؤية البنية التحتية وتحليل التبعيات.
عدة مصادر عامة
- يقدم Azure من مايكروسوفت ميزات أمان جديدة لنماذج الذكاء الاصطناعي، بما في ذلك Prompt Shields وGroundedness Detection، بهدف اكتشاف الثغرات ومنع المطالبات الضارة.
- تعزز هذه الميزات التحكم في تصفية المحتوى غير المناسب، مما يعالج المخاوف بشأن سلامة نماذج الذكاء الاصطناعي.
- يتماشى التزام مايكروسوفت بسلامة الذكاء الاصطناعي مع توسيع قدرات Azure في الذكاء الاصطناعي وسط الطلب المتزايد.
تكشف سارة بيرد، كبير مسؤولي المنتجات في مجال الذكاء الاصطناعي المسؤول في مايكروسوفت، لـ The Verge في مقابلة عن طرح ميزات أمان جديدة صممها فريقها لعملاء Azure. تهدف هذه الميزات، المدعومة بتقنية LLM، إلى اكتشاف الثغرات، ومراقبة السيناريوهات المعقولة ولكن غير المدعومة، وحظر المطالبات الضارة في الوقت الفعلي للمستخدمين الذين يستفيدون من نماذج Azure للذكاء الاصطناعي.
اقرأ أيضًا:Windows تحت إدارة جديدة بسبب إعادة تنظيم الذكاء الاصطناعي في مايكروسوفت
اقرأ أيضًا:Microsoft Teams يحصل على ميزات Copilot الذكية الأكثر ذكاءً
هناك العديد من الوظائف التي تعمل على تحسين السلامة
تتضمن الوظائف Prompt Shields وGroundedness Detection وتقييمات السلامة، بالإضافة إلى ميزات إضافية مثل توجيه النماذج نحو المخرجات الآمنة وتتبع المطالبات للمستخدمين الذين يمثلون مشكلة في المستقبل. ومن الجدير بالذكر أن النظام يقيم مطالبات الإدخال بحثًا عن الكلمات المحظورة والإشارات المخفية قبل المعالجة، مما يضمن توافق الردود مع النتائج المرجوة.
يمكنه تصفية خطاب الكراهية أو العنف داخل نماذج الذكاء الاصطناعي
تؤكد بيرد على التحكم القابل للتخصيص في تصفية خطاب الكراهية أو العنف داخل نماذج الذكاء الاصطناعي، مما يعالج المخاوف بشأن المحتوى غير المناسب. تمتد تدابير السلامة هذه إلى النماذج الشائعة مثلGPT-4وLlama 2، على الرغم من أن مستخدمي النماذج مفتوحة المصدر الأصغر والأقل استخدامًا قد يحتاجون إلى تكوين الميزات يدويًا.
يتماشى التزام مايكروسوفت بتعزيز سلامة الذكاء الاصطناعي مع الطلب المتزايد على قدرات Azure في الذكاء الاصطناعي، وهو ما تؤكده الشراكات الأخيرة التي تهدف إلى توسيع عروض نماذجها.
في لمحة
- الاسم: نظام أمان مايكروسوفت يكتشف الهلوسات في تطبيقاته الذكية
- الأساس: عالمي
- تركيز الملف الشخصي:
ما يفعله
- السجلات العامة تدعم مراقبة دورها وخدماتها وعلاقاتها الرئيسية.
لماذا يهم
- تدعم إشارات المصادر العامة مراقبة ذات تأثير متوسط لرؤية البنية التحتية وتحليل التبعيات.
- الأهمية التشغيلية: متوسط
- الأفق الزمني: الربع القادم
ما الذي تشاهده
- تركز المراقبة على استمرارية الخدمة المؤكدة وتغييرات الحوكمة وإشارات العلاقات.
تتبع التحديثات الموثقة للمصادر، وتغييرات الأدوار، والأدلة العامة الحالية.
تدعم إشارات المصادر العامة مراقبة ذات تأثير متوسط لرؤية البنية التحتية وتحليل التبعيات.
تعتمد الصلة طويلة الأجل على التغييرات الموثوقة في التشغيل والسياسات والعلاقات.
إحاطة الأعضاء
سياق الملف الشخصي الأعمق
سجّل الدخول بمستوى العضوية المناسب لفتح الإحاطة الكاملة وملاحظات المصادر.
مخصص لـ Strategic Circle
Strategic Circle
مفتوح لجميع القراء. افتح إيجازات الملف الشخصي بعد الانضمام وتسجيل الدخول.
انضم إلى Strategic Circleفقط لـ Leadership Alliance
Leadership Alliance
لمالكين مؤهلين لأصول IP والإدارة؛ سجل الدخول لفتح إحاطات التحالف.
انضم إلى Leadership Alliance