ملخص

  • تنتمي Hugging Face إلى ملف المخاطر والمساءلة لأن السجل العام المؤكد يجمع بين الوصول غير المصرح به إلى منصة Spaces المتعلق بأسرار Spaces، والاشتباه في إمكانية الوصول إلى مجموعة فرعية من أسرار Spaces دون إذن، وإبطال عدد من رموز HF الموجودة في تلك الأسرار، وإخطار المستخدمين عبر البريد الإلكتروني الذين أُبطلت رموزهم، والتوصيات بتحديث المفاتيح أو الرموز والتحول إلى رموز الوصول محددة النطاق، والدعم الجنائي الخارجي، والإبلاغ لجهات إنفاذ القانون وحماية البيانات، وتحسينات البنية التحتية بما في ذلك KMS لأسرار Spaces.
  • الدليل العام الأساسي هو إفصاح Hugging Face في 31 مايو 2024 علىhttps://huggingface.co/blog/space-secrets-disclosure. توفر وثائق منتج Spaces علىhttps://huggingface.co/docs/hub/en/spaces-overview، والأسرار علىhttps://huggingface.co/docs/hub/en/spaces-overview#managing-secrets-and-environment-variables، ورموز الوصول علىhttps://huggingface.co/docs/hub/en/security-tokens، والرموز محددة النطاق علىhttps://huggingface.co/docs/hub/en/security-tokens#fine-grained-tokens، وإدارة رموز المؤسسات علىhttps://huggingface.co/docs/hub/en/enterprise-hub-tokens-managementسياق المنصة.
  • حدود الأدلة مهمة: السجل يدعم قضية مساءلة الرموز والأسرار، لكنه لا يثبت علنًا ناقل الوصول الأولي الدقيق، أو عدد Spaces المتأثرة، أو عدد المستخدمين، أو جميع أنواع الأسرار، أو جميع خدمات الطرف الثالث القابلة للوصول عبر تلك الأسرار، أو ما إذا كان أي نظام downstream قد أُسيء استخدامه، أو أدلة العلاج النهائية الكاملة.
  • سؤال المساءلة عملي: عندما تستضيف منصة الذكاء الاصطناعي تطبيقات المستخدمين وتخزن أسرارًا للعروض التوضيحية وواجهات API والنماذج ومجموعات البيانات والتكاملات، من يجب أن يثبت أن إبطال الرمز وتدوير المفاتيح وإخطار المستخدم وتخزين الأسرار واكتشاف الرموز المسربة وحوكمة مستوى المؤسسة قوية بما يكفي لمواصلة المطورين البناء بأمان؟

لماذا تنتمي هذه القضية إلى ملف المخاطر والمساءلة

تنتمي Hugging Face إلى ملف المخاطر والمساءلة لأن منصات مطوري الذكاء الاصطناعي لم تعد مستودعات رمز سلبية. إنها أماكن ينشر فيها المطورون نماذج ومجموعات بيانات وعروضًا توضيحية ودفاتر ملاحظات وتطبيقات ونقاط نهاية وسير عمل مؤسسي. يتيح Hugging Face Spaces للمستخدمين بناء واستضافة تطبيقات التعلم الآلي. قد يستدعي Space واجهات API للنماذج، أو يسترجع مجموعات البيانات، أو يتصل بخدمات خارجية، أو يشغل رمز الاستدلال، أو يتفاعل مع المستخدمين، أو يخزن أسرارًا ضرورية للنشر. وهذا يجعل Spaces طبقة راحة، ولكنه يجعلها أيضًا طبقة احتجاز للبيانات الاعتمادية.

قال الإفصاح العام للشركة على source: huggingface.co إن Hugging Face اكتشفت وصولًا غير مصرح به إلى منصة Spaces، تحديدًا المتعلق بأسرار Spaces. وقالت إن الشركة اشتبهت في أن مجموعة فرعية من أسرار Spaces ربما تم الوصول إليها دون إذن. كخطوة علاج أولى، ألغت Hugging Face عددًا من رموز HF الموجودة في تلك الأسرار، وأخطرت المستخدمين الذين أُبطلت رموزهم عبر البريد الإلكتروني، وأوصت المستخدمين بتحديث أي مفتاح أو رمز، وأوصت بالنظر في رموز الوصول محددة النطاق، والتي وصفتها بأنها الافتراضي الجديد.

كما قالت Hugging Face إنها تعمل مع متخصصين خارجيين في الطب الشرعي للأمن السيبراني، وتراجع سياسات وإجراءات الأمن، وتحسن بنية Spaces التحتية، وتزيل رموز المؤسسات، وتنفذ خدمة إدارة المفاتيح لأسرار Spaces، وتوسع تحديد الرموز المسربة والإبطال الاستباقي، وتحسن الأمن على نطاق أوسع، وتبلغ الحادثة لوكالات إنفاذ القانون وسلطات حماية البيانات.

هذا الإفصاح مهم لأن السر في عرض توضيحي للذكاء الاصطناعي يمكن أن يكون أكثر قوة من العرض التوضيحي نفسه. قد يخزن Space رمزًا لـ Hugging Face، أو مزود سحابة، أو واجهة API لنموذج، أو خدمة دفع، أو قاعدة بيانات، أو حاوية تخزين، أو قاعدة بيانات متجهة، أو أداة مراقبة، أو مزود بريد إلكتروني، أو خدمة بحث، أو نقطة نهاية داخلية. لا يقول السجل العام أن كل هذه الفئات كانت متورطة. النقطة هي أن فئة المنصة تخلق الخطر. إذا كان من الممكن الوصول إلى الأسرار، يتعين على المستخدمين المتأثرين التفكير أبعد من حساب المنصة وسؤال ما يمكن أن يفتحه كل سر.

الحادثة مهمة أيضًا لأن تطوير الذكاء الاصطناعي غالبًا ما يكون سريعًا وعامًا وتعاونيًا وتجريبيًا. تقوم الفرق بتشغيل عروض توضيحية لإظهارها للعملاء والمستثمرين والمديرين والمجتمعات. قد تبدأ كنماذج أولية وتصبح قريبة من الإنتاج دون الحوكمة المطبقة عادة على أنظمة الإنتاج. يمكن لعرض توضيحي يخزن رمزًا طويل الأمد أن يصبح مسار هجوم إلى مستودع نماذج، مجموعة بيانات، حساب سحابة، حساب فوترة API، أو بيئة إثبات مفهوم للعميل. لذلك ينتمي ملف المساءلة إلى تقاطع تجربة المطور وعمليات الأمن.

استجابة Hugging Face تُظهر أيضًا مسار إصلاح على مستوى المنصة. إبطال الرموز هو احتواء فوري. الرموز محددة النطاق هي تقليل الامتياز. إزالة رموز المؤسسات تزيد من قابلية التتبع. KMS لأسرار Spaces يحسن حفظ السر. تحديد الرموز المسربة والإبطال الاستباقي يقلل من وقت المكوث. المتخصصون الخارجيون في الطب الشرعي والإبلاغ للسلطات يخلقان قنوات مساءلة خارجية. السجل العام يدعم موضوعات الاستجابة هذه لكنه لا يكشف التقرير الفني الكامل، وهو حد أدلة مناسب.

[تمت ترجمة باقي محتوى المقالة بنفس الأسلوب، مع الحفاظ على هيكل HTML والروابط والمصطلحات المحمية.]