Hugging Face جعلت أسرار Spaces اختبارًا للمساءلة عن الرموز المميزة لمنصة المطورين

ملخص

• تنتمي Hugging Face إلى ملف مخاطر ومساءلة لأن السجل العام المؤكد يجمع بين الوصول غير المصرح به إلى منصة Spaces المتعلق بأسرار Spaces، والاشتباه في أنه يمكن الوصول إلى مجموعة فرعية من أسرار Spaces دون إذن، وإبطال عدد من رموز HF الموجودة في تلك الأسرار، وإشعار البريد الإلكتروني للمستخدمين الذين تم إبطال رموزهم، وتوصيات بتحديث المفاتيح أو الرموز والتحول إلى رموز الوصول الدقيقة، والدعم الخارجي للطب الشرعي، والإبلاغ إلى سلطات إنفاذ القانون وحماية البيانات، وتحسينات البنية التحتية بما في ذلك KMS لأسرار Spaces.
• الدليل العام الأساسي هو إفصاح Hugging Face في 31 مايو 2024 على الرابطhttps://huggingface.co/blog/space-secrets-disclosure. توفر وثائق منتج Hugging Face لـ Spaces على الرابطhttps://huggingface.co/docs/hub/en/spaces-overview، والأسرار على الرابطhttps://huggingface.co/docs/hub/en/spaces-overview#managing-secrets-and-environment-variables، ورموز الوصول على الرابطhttps://huggingface.co/docs/hub/en/security-tokens، والرموز الدقيقة على الرابطhttps://huggingface.co/docs/hub/en/security-tokens#fine-grained-tokens، وإدارة رموز المؤسسات على الرابطhttps://huggingface.co/docs/hub/en/enterprise-hub-tokens-managementسياق المنصة.
• حدود الأدلة مهمة: السجل يدعم قضية مساءلة الرموز والأسرار، لكنه لا يحدد علنًا ناقل الوصول الأولي الدقيق، أو عدد Spaces المتأثرة، أو عدد المستخدمين، أو جميع أنواع الأسرار، أو جميع خدمات الطرف الثالث التي يمكن الوصول إليها من خلال تلك الأسرار، أو ما إذا كان أي نظام تابع قد أسيء استخدامه، أو دليل الإصلاح النهائي الكامل.
• السؤال العملي للمساءلة: عندما تستضيف منصة ذكاء اصطناعي تطبيقات المستخدمين وتخزن أسرارًا للعروض التوضيحية وواجهات برمجة التطبيقات والنماذج ومجموعات البيانات وعمليات التكامل، من الذي يجب أن يثبت أن إبطال الرموز وتدوير المفاتيح وإشعار المستخدم وتخزين الأسرار واكتشاف الرموز المسربة والحوكمة على مستوى المؤسسات قوية بما يكفي للمطورين لمواصلة البناء بأمان؟

لماذا تنتمي هذه القضية إلى ملف المخاطر والمساءلة

تنتمي Hugging Face إلى ملف مخاطر ومساءلة لأن منصات مطوري الذكاء الاصطناعي لم تعد مستودعات أكواد سلبية. إنها أماكن ينشر فيها المطورون النماذج ومجموعات البيانات والعروض التوضيحية والدفاتر والتطبيقات ونقاط النهاية وسير عمل المؤسسات. تتيح Hugging Face Spaces للمستخدمين بناء وتطبيقات التعلم الآلي واستضافتها. قد يستدعي Space واجهات برمجة تطبيقات النماذج، ويسترد مجموعات البيانات، ويتصل بالخدمات الخارجية، ويشغل كود الاستدلال، ويتفاعل مع المستخدمين، ويخزن الأسرار اللازمة للنشر. وهذا يجعل Spaces طبقة راحة، ولكنه يجعله أيضًا طبقة احتجاز لبيانات الاعتماد.

قال الإفصاح الصادر عن الشركة على الرابطhttps://huggingface.co/blog/space-secrets-disclosureإن Hugging Face اكتشفت وصولاً غير مصرح به إلى منصة Spaces، وتحديدًا المتعلق بأسرار Spaces. وقالت إن الشركة لديها اشتباهات في أنه يمكن الوصول إلى مجموعة فرعية من أسرار Spaces دون إذن. كخطوة إصلاح أولى، ألغت Hugging Face عددًا من رموز HF الموجودة في تلك الأسرار، وأخبرت المستخدمين الذين تم إلغاء رموزهم عبر البريد الإلكتروني، وأوصت المستخدمين بتحديث أي مفتاح أو رمز، وأوصت بالنظر في رموز الوصول الدقيقة، والتي وصفتها بأنها الافتراضية الجديدة. كما قالت Hugging Face إنها تعمل مع خبراء الطب الشرعي الخارجيين في مجال الأمن السيبراني، وتراجع سياسات وإجراءات الأمن، وتحسن البنية التحتية لـ Spaces، وتزيل رموز المؤسسات، وتطبق خدمة إدارة المفاتيح لأسرار Spaces، وتوسع نطاق تحديد الرموز المسربة والإبطال الاستباقي، وتحسن الأمن بشكل أوسع، وتبلغ الحادثة لسلطات إنفاذ القانون وسلطات حماية البيانات.

هذا الإفصاح مهم لأن السر في عرض توضيحي للذكاء الاصطناعي يمكن أن يكون أقوى من العرض التوضيحي نفسه. قد يخزن Space رمزًا مميزًا لـ Hugging Face، أو مزود سحابة، أو واجهة برمجة تطبيقات نموذج، أو خدمة دفع، أو قاعدة بيانات، أو حاوية تخزين، أو قاعدة بيانات متجهة، أو أداة مراقبة، أو مزود بريد إلكتروني، أو خدمة بحث، أو نقطة نهاية داخلية. السجل العام لا يذكر أن جميع هذه الفئات كانت متورطة. النقطة هي أن فئة المنصة تخلق المخاطر. إذا كان من الممكن الوصول إلى الأسرار، يتعين على المستخدمين المتأثرين التفكير بما يتجاوز حساب المنصة والسؤال عما يمكن أن يفتحه كل سر.

الحادثة مهمة أيضًا لأن تطوير الذكاء الاصطناعي غالبًا ما يكون سريعًا ومفتوحًا وتعاونيًا وتجريبيًا. تقوم الفرق بإنشاء عروض توضيحية لعرضها على العملاء والمستثمرين والمديرين والمجتمعات. قد تبدأ كنماذج أولية وتصبح قريبة من الإنتاج دون الحوكمة المطبقة عادةً على أنظمة الإنتاج. يمكن أن يصبح العرض التوضيحي الذي يخزن رمزًا طويل الأمد مسار هجوم إلى مستودع النماذج أو مجموعة البيانات أو حساب السحابة أو حساب فوترة واجهة برمجة التطبيقات أو بيئة إثبات المفهوم للعميل. لذلك، ينتمي ملف المساءلة إلى تقاطع تجربة المطور وعمليات الأمان.

يُظهر رد Hugging Face أيضًا مسار إصلاح على مستوى المنصة. إلغاء الرموز هو احتواء فوري. الرموز الدقيقة هي تقليل الامتيازات. إزالة رموز المؤسسات تزيد من قابلية التتبع. KMS لأسرار Spaces يحسن احتجاز الأسرار. اكتشاف الرموز المسربة والإبطال الاستباقي يقللان من وقت البقاء. خبراء الطب الشرعي الخارجيون والإبلاغ للسلطات يخلقان قنوات مساءلة خارجية. السجل العام يدعم موضوعات الاستجابة هذه لكنه لا يكشف التقرير الفني الكامل، وهو حد أدلة مناسب.

الجدول الزمني العام المؤكد وسياق المنصة

الجدول الزمني العام المؤكد يركز على إفصاح Hugging Face في 31 مايو 2024. قالت الشركة إنه في وقت سابق من ذلك الأسبوع، اكتشف فريقها وصولاً غير مصرح به إلى Spaces، وتحديدًا المتعلق بأسرار Spaces. وقالت إنها تشتبه في أنه يمكن الوصول إلى مجموعة فرعية من أسرار Spaces دون إذن. لم تقل إن جميع Spaces تأثرت، أو أن جميع الأسرار تم الوصول إليها، أو أن كل رمز تم إساءة استخدامه. كان الإفصاح حذرًا، ويجب الحفاظ على هذا الحذر.

قالت Hugging Face إنها ألغت عددًا من رموز HF الموجودة في تلك الأسرار. تلقى المستخدمون الذين تم إلغاء رموزهم إشعارًا عبر البريد الإلكتروني. أوصت الشركة المستخدمين بتحديث أي مفتاح أو رمز والنظر في تحويل رموز HF إلى رموز وصول دقيقة. هذه التوصية مهمة لأنها تنطبق على ما هو أبعد من الرموز التي ألغتها Hugging Face بالفعل. يمكن للمنصة إلغاء الرموز التي يمكنها تحديدها والتحكم فيها، ولكن قد يحتفظ المستخدمون بمفاتيح طرف ثالث في أسرار Spaces لا يمكن للمنصة إلغاءها نيابة عنهم. يجب على المستخدم الذي خزن مفتاحًا خارجيًا للسحابة أو واجهة برمجة تطبيقات أن يدور هذا المفتاح مع المزود الخارجي.

توفر وثائق منتج Spaces على الرابطhttps://huggingface.co/docs/hub/en/spaces-overviewشرحًا أن Spaces هي طريقة لاستضافة تطبيقات العروض التوضيحية للتعلم الآلي مباشرة على Hub. تصف الوثائق أيضًا الأسرار والمتغيرات البيئية لـ Spaces، بما في ذلك إدارة الأسرار والمتغيرات البيئية. تشرح وثائق الرموز على الرابطhttps://huggingface.co/docs/hub/en/security-tokensرموز وصول المستخدم والنطاقات. توفر وثائق الرموز الدقيقة على الرابطhttps://huggingface.co/docs/hub/en/security-tokens#fine-grained-tokensسياقًا لتقليل نطاق الوصول. توفر وثائق إدارة رموز المؤسسات على الرابطhttps://huggingface.co/docs/hub/en/enterprise-hub-tokens-managementسياقًا لحوكمة رموز المؤسسات.

تقرير TechCrunch على الرابطhttps://techcrunch.com/2024/05/31/hugging-face-says-it-detected-unauthorized-access-to-its-ai-model-hosting-platform/وصف نفس الإفصاح وأكد أنه لم يكن من الواضح على الفور عدد المستخدمين أو التطبيقات المتأثرة. أفاد BleepingComputer على الرابطhttps://www.bleepingcomputer.com/news/security/ai-platform-hugging-face-says-hackers-stole-auth-tokens-from-spaces/عن تعرض الرموز وإشعار المستخدم. SecurityWeek على الرابطhttps://www.securityweek.com/secrets-exposed-in-hugging-face-hack/، The Hacker News على الرابطhttps://thehackernews.com/2024/06/ai-company-hugging-face-notifies-users.html، TechTarget على الرابطhttps://www.techtarget.com/searchsecurity/news/366587535/Hugging-Face-tokens-exposed-attack-scope-unknown، وSC Media على الرابطhttps://www.scworld.com/news/ai-firm-hugging-face-discloses-leak-of-secrets-on-its-spaces-platformقدموا تسلسلًا زمنيًا عامًا وسياق مجتمع الأمان. تلك المصادر ثانوية. يظل إفصاح الشركة هو الأساس للحقائق المؤكدة.

يتضمن الجدول الزمني العام أيضًا سياقًا لاحقًا لأمان المنصة. أعلنت Hugging Face عن شراكة مع Truffle Security على الرابطhttps://huggingface.co/blog/trufflesecurity-partnership، ووصفت Truffle Security الشراكة على الرابطhttps://trufflesecurity.com/blog/trufflehog-partners-with-hugging-face-to-scan-for-secrets. هذه المصادر اللاحقة ليست دليلاً على السبب الجذري لحادثة مايو. إنها تُظهر الاتجاه الأوسع لفحص الأسرار وتقوية منصة المطورين بعد عصر أصبحت فيه مستودعات الأكواد ومستودعات النماذج ومنصات تطبيقات الذكاء الاصطناعي تخزن بشكل متزايد بيانات اعتماد حساسة.

أسرار Spaces ليست إعدادات عادية

أسرار Spaces هي بيانات اعتماد تشغيلية. قد تُستخدم كمتغيرات بيئية لإبقاء الرموز والمفاتيح وكلمات المرور وقيم التكوين خارج الكود العام. هذه ميزة منتج طبيعية وضرورية. يحتاج المطورون إلى طريقة لاستدعاء واجهات برمجة التطبيقات الخاصة، والمصادقة على نقاط نهاية النماذج، والوصول إلى التخزين، أو تكوين عرض توضيحي دون وضع سر في مستودع. ولكن بمجرد أن تخزن المنصة هذه القيم، تصبح وصيًا على بيانات اعتماد الآلة.

مشكلة المساءلة هي أن الأسرار عادة ما تكون متعدية. قد يسمح رمز Hugging Face بالوصول إلى النماذج ومجموعات البيانات والمستودعات ونقاط نهاية الاستدلال وموارد المؤسسة أو إجراءات الكتابة اعتمادًا على نطاقه. قد يسمح مفتاح واجهة برمجة تطبيقات طرف ثالث باستدعاءات النماذج أو استرجاع البيانات أو استهلاك الفوترة أو الحذف أو التحديث أو النشاط الإداري. قد يسمح مفتاح السحابة بالوصول إلى التخزين أو الحوسبة. قد تعرض بيانات اعتماد قاعدة بيانات بيانات التطبيق. قد يسمح سر webhook بحقن الأحداث أو التزوير. مرة أخرى، لا تدعي المقالة أن كل نوع من هذه الأسرار كان متورطًا. إنها تشرح لماذا تحمل عبارة "أسرار Spaces" مخاطر أوسع من إعداد ويب عادي.

الاستجابة العامة اعترفت بذلك. ألغت Hugging Face عددًا من رموز HF الموجودة في تلك الأسرار. أوصت بتحديث أي مفتاح أو رمز. هذه الصياغة مهمة لأن المنصة يمكنها إلغاء رموز HF، لكنها لا تستطيع تدوير كل بيانات اعتماد خارجية خزنها المستخدم في Space تلقائيًا. احتاج المستخدمون إلى مراجعة ما وضعوه في الأسرار، وتدويره مع كل مزود خارجي، والتحقق من السجلات في تلك الأنظمة الخارجية. كان العبء العملي موزعًا عبر المنصة ومستخدميها.

رموز الوصول الدقيقة هي جزء أساسي من منطق الإصلاح. يمكن للرمز التقليدي الواسع أن يسبب ضررًا أكبر إذا تم الكشف عنه لأنه قد يعمل عبر العديد من الموارد. يمكن تحديد نطاق الرمز الدقيق لموارد وإجراءات محددة. الامتياز الأقل لا يزيل الحاجة إلى حماية الأسرار، لكنه يقلل من نصف قطر الانفجار. توصية الشركة بالتحول إلى الرموز الدقيقة، وخطتها لإهمال رموز القراءة والكتابة التقليدية بعد تكافؤ الميزات، تُظهر حركة من الراحة نحو وصول قابل للتتبع ومحدد النطاق.

إزالة رموز المؤسسات مهمة أيضًا. يمكن أن تكون الرموز على مستوى المؤسسة مريحة تشغيليًا، لكنها يمكن أن تطمس المساءلة. إذا تم استخدام رمز مؤسسة مشترك عبر العديد من Spaces أو سير العمل، فقد يكون من الصعب تحديد أي شخص أو تطبيق أو عملية قام بإجراء. إزالة رموز المؤسسات تزيد من قابلية التتبع وقابلية التدقيق، وفقًا لإفصاح Hugging Face. هذا إصلاح حوكمة، وليس مجرد تصحيح تقني.

حقائق مؤكدة، استدلال مدعوم، ومجاهيل

تشمل الحقائق العامة المؤكدة اكتشاف Hugging Face وصولاً غير مصرح به إلى منصة Spaces المتعلق بأسرار Spaces؛ اشتباه Hugging Face في أنه يمكن الوصول إلى مجموعة فرعية من أسرار Spaces دون إذن؛ إلغاء عدد من رموز HF الموجودة في تلك الأسرار؛ إشعار البريد الإلكتروني للمستخدمين الذين تم إلغاء رموزهم؛ التوصية بأن يقوم المستخدمون بتحديث أي مفتاح أو رمز؛ التوصية بالنظر في رموز الوصول الدقيقة؛ خبراء الطب الشرعي الخارجيين في مجال الأمن السيبراني؛ مراجعة سياسات وإجراءات الأمن؛ تحسينات البنية التحتية لـ Spaces؛ إزالة رموز المؤسسات؛ تطبيق KMS لأسرار Spaces؛ توسيع نطاق تحديد الرموز المسربة والإبطال الاستباقي؛ تحسينات أمنية أوسع؛ إهمال مخطط لرموز القراءة والكتابة

التقليدية بعد وصول الرموز الدقيقة إلى تكافؤ الميزات؛ مواصلة التحقيق في الحوادث المحتملة ذات الصلة؛ والإبلاغ إلى سلطات إنفاذ القانون وسلطات حماية البيانات.

يشمل السياق العام المؤكد وثائق Hugging Face التي تشرح أن Spaces هي تطبيقات تعلم آلي مستضافة، وأن Spaces يمكنها استخدام الأسرار والمتغيرات البيئية، وأن رموز وصول المستخدم يمكن إنشاؤها وتحديد نطاقها، وأن الرموز الدقيقة تدعم وصولًا أكثر تقييدًا، وأن إدارة رموز مؤسسات المؤسسات يمكن أن تدعم الحوكمة. يشمل السياق العام المؤكد أيضًا مواد الشراكة اللاحقة حول فحص الأسرار على Hub.

الاستدلال المدعوم هو أن المستخدمين احتاجوا إلى مراجعة كل من رموز Hugging Face وبيانات اعتماد الطرف الثالث المخزنة في أسرار Spaces لأن Hugging Face أوصت صراحةً بتحديث أي مفتاح أو رمز ولأن Space يمكنه استخدام خدمات خارجية. الاستدلال المدعوم هو أن الرموز ذات الامتياز الأقل، وإزالة رموز المؤسسات، وتخزين الأسعار المدعوم بـ KMS، واكتشاف الرموز المسربة، والإبطال الاستباقي هي ضوابط متماسكة لتقليل نصف قطر الانفجار في المستقبل. الاستدلال المدعوم هو أنه يجب معاملة العروض التوضيحية للذكاء الاصطناعي المستضافة كجزء من سطح أمان التطبيق للمؤسسة عندما تحتوي على بيانات اعتماد أو تتصل بخدمات قريبة من الإنتاج.

تبقى مجاهيل. السجل العام لا يكشف ناقل الوصول الأولي الدقيق، أو عدد Spaces المتأثرة، أو عدد المستخدمين الذين تم إخطارهم، أو عدد الرموز التي تم إلغاؤها، أو فئات الأسرار الخارجية التي تم الكشف عنها، أو ما إذا كانت أي خدمة خارجية قد تم الوصول إليها باستخدام الأسرار المكشوفة، أو ما إذا كان أي نموذج أو مجموعة بيانات قد تم تغييرها، أو ما إذا كان أي محتوى مستودع خاص قد تم الوصول إليه، أو الجدول الزمني الكامل للوصول غير المصرح به، أو النتائج الجنائية الكاملة، أو جميع اتصالات الجهات التنظيمية، أو سجل التحقق النهائي من الضوابط. هذه المقالة لا تستنتج تلك التفاصيل.

هذا الفصل مهم لأنه يمكن المبالغة في تقدير حوادث منصات المطورين بسرعة. سيكون من غير المدعوم القول إن جميع مستخدمي Hugging Face تم اختراقهم، أو أن كل سر Space تم الوصول إليه، أو أن مهاجمًا معينًا سرق كل رمز، أو أن بيانات العميل النهائية تم تسريبها بالتأكيد. سيكون من الضيق أيضًا القول إن الحدث كان مجرد إزعاج بسيط. السجل المؤكد يدعم قضية مساءلة جادة للرموز والأسرار لأن بيانات الاعتماد التي تحتضنها المنصة قد تفتح أنظمة خارج المنصة.

إشعار المستخدم والإلغاء يحددان اختبار المساءلة الفوري

كان اختبار المساءلة الأول هو الاحتواء الفوري. ألغت Hugging Face عددًا من رموز HF الموجودة في الأسرار ذات الصلة. قلل هذا الإجراء من خطر إعادة استخدام رموز Hugging Face بعد تحديدها من قبل المنصة. كما أرسلت الشركة بريدًا إلكترونيًا إلى المستخدمين الذين تم إلغاء رموزهم. أنشأ هذا الإشعار رابطًا مباشرًا بين إجراء المنصة وإجراء المستخدم.

الاختبار الثاني هو ما إذا كان المستخدمون يعرفون ما لا يزال يتعين عليهم فعله. أوصت Hugging Face بتحديث أي مفتاح أو رمز. هذه العبارة واسعة، وكان لا بد أن تكون واسعة لأن الأسرار يمكن أن تشمل بيانات اعتماد طرف ثالث خارج سيطرة Hugging Face. المستخدم الذي خزن مفتاح OpenAI API، أو مفتاح سحابة، أو كلمة مرور قاعدة بيانات، أو مفتاح اختبار Stripe، أو رمز قاعدة بيانات متجهة، أو رمز خدمة داخلية سيحتاج إلى التدوير من خلال المزود الذي أصدره. يمكن للمنصة أن تحذر، لكن المزود الخارجي يتحكم في الإلغاء.

الاختبار الثالث هو ما إذا كان المستخدمون قادرين على تحديد تعرضهم الخاص. يجب أن يكون المطورون قادرين على سرد الأسرار المخزنة في كل Space، وتحديد من يملكها، وتحديد ما إذا كانت لا تزال مطلوبة، وتدويرها، واختبار التطبيق، ومراجعة السجلات الخارجية للاستخدام المشبوه. إذا لم يكن لدى Space أسرار حساسة، فإن الاستجابة تختلف عن Space مع بيانات اعتماد إنتاج API. إذا كان الرمز للقراءة فقط ومحددًا بمستودع واحد، فإن الاستجابة تختلف عن رمز كتابة واسع. إذا كان المفتاح منتهي الصلاحية بالفعل، فإن الاستجابة تختلف عن بيانات اعتماد نشطة طويلة الأمد.

الاختبار الرابع هو ما إذا كان مسؤولو المؤسسة لديهم رؤية كافية. في بيئات المؤسسات، قد ينشئ المستخدم Space كدليل على المفهوم ويخزن رمزًا ينتمي إلى فريق أو مؤسسة. تحتاج المؤسسة إلى معرفة Spaces الموجودة، وما الأسرار التي تحتفظ بها، وما الرموز المعتمدة، وما إذا كان يمكن للمسؤولين مراجعة الرموز وإلغاؤها. تشير وثائق إدارة رموز مؤسسات Hugging Face وإزالة رموز المؤسسات في الإفصاح إلى طبقة الحوكمة هذه.

جودة الإشعار هي أيضًا جزء من المساءلة. يجب أن يشرح الإشعار المفيد ما حدث، وما تم إلغاؤه، وما يجب على المستخدمين تدويره، وما السجلات التي يجب مراجعتها، وما مجالات المنتج المعنية، وما لا يزال غير معروف، وأين يطرح الأسئلة. لا يمكن للإفصاح العام تضمين كل حقيقة خاصة بالعميل، لكن إشعارات البريد الإلكتروني للعملاء يجب أن تكون دقيقة بما يكفي لدعم الإجراء دون إثارة الذعر غير الضروري.

KMS، اكتشاف الرموز المسربة، والرموز الدقيقة هي ضوابط دائمة

وصف إفصاح Hugging Face العديد من الضوابط الدائمة. يشير تطبيق KMS لأسرار Spaces إلى تحرك نحو إدارة مفاتيح أقوى وفصل أفضل بين الأسرار المخزنة والوصول إلى المنصة. KMS لا يجعل كشف السر مستحيلاً، لكنه يمكن أن يحسن التشفير والتحكم في الوصول والتدقيق والتدوير والفصل التشغيلي إذا تم تصميمه جيدًا. الإفصاح العام لا يوفر الهندسة المعمارية، لذا لا تدعي هذه المقالة أكثر مما ذكرته الشركة.

تعزيز وتوسيع قدرة النظام على تحديد الرموز المسربة وإبطالها استباقيًا هو ضابط مهم آخر. يمكن أن يقلل فحص الأسرار من الوقت بين الكشف العرضي والإلغاء. في أنظمة المطورين البيئية، تتسرب الأسرار إلى المستودعات والدفاتر والسجلات والقضايا وبطاقات النماذج وكود العروض التوضيحية وملفات التكوين. يمكن للمنصة التي تستضيف مستودعات عامة وخاصة أن تساعد المستخدمين من خلال اكتشاف الرموز المكشوفة وإبطالها قبل إساءة استخدامها. تدعم شراكة Hugging Face اللاحقة مع Truffle Security الاتجاه الأوسع لفحص الأسرار على مستوى المنصة.

الرموز الدقيقة تقلل من نصف قطر الانفجار. الرمز المحدد بنموذج أو مستودع واحد ومقتصر على وصول القراءة أكثر أمانًا من رمز واسع على مستوى الحساب. يمكن لموافقة المؤسسة أن تقلل من إنشاء الرموز غير المنضبط. يمكن لمراجعة المسؤول وإلغائه تحسين إدارة دورة الحياة. إهمال رموز القراءة والكتابة التقليدية بعد تكافؤ الميزات الدقيقة سيقلل الاعتماد على بيانات الاعتماد الواسعة. تلك الضوابط لا تزيل المخاطر، لكنها تجعل المخاطر أكثر قابلية للقياس والإدارة.

توفر NIST SP 800-61 Rev. 3 على الرابطhttps://csrc.nist.gov/pubs/sp/800/61/r3/finalمفردات الاستجابة للحوادث للكشف والتحليل والاحتواء والاستئصال والاستعادة والتعلم بعد الحادثة. توفر ورقة غش إدارة الأسرار من OWASP على الرابطhttps://cheatsheetseries.owasp.org/cheatsheets/Secrets_Management_Cheat_Sheet.htmlإرشادات عامة حول تخزين الأسرار وتدويرها والتحكم في الوصول والتدقيق. توفر مواد CISA للتصميم الآمن على الرابطhttps://www.cisa.gov/securebydesignوأهداف الأداء السيبراني عبر القطاعات على الرابطhttps://www.cisa.gov/cross-sector-cybersecurity-performance-goalsسياقًا أوسع للضوابط. تلك المصادر لا تُستخدم كنتائج ضد Hugging Face. إنها تساعد في تأطير سبب أهمية الضوابط المذكورة في الإفصاح.

العروض التوضيحية للذكاء الاصطناعي المستضافة قريبة من الإنتاج حتى عندما تبدو تجريبية

الحادثة ذات صلة خاصة لأن Spaces غالبًا ما تبدو كعروض توضيحية. العروض التوضيحية يمكن أن تشعر بأنها منخفضة المخاطر لأنها سريعة البناء وموجهة للجمهور وتجريبية. لكن العرض التوضيحي يمكن أن يحمل بيانات اعتماد حقيقية. يمكنه استدعاء واجهة برمجة تطبيقات مدفوعة. يمكنه معالجة إدخال المستخدم. يمكنه الاتصال بنموذج خاص. يمكنه استرداد البيانات. يمكن تضمينه في عملية بيع. يمكن استخدامه من قبل العملاء قبل أن يصنفه أي شخص على أنه إنتاج.

يخلق هذا فجوة حوكمة. قد تركز برامج أمان التطبيقات التقليدية على تطبيقات الويب الإنتاجية والبنية التحتية السحابية والخدمات الداخلية. قد تبني فرق الذكاء الاصطناعي Spaces كنماذج أولية خارج تلك الضوابط. ثم تكشف حادثة منصة عن حقيقة أن النموذج الأولي كان لديه رمز إنتاج، أو مرجع مجموعة بيانات عميل، أو بيانات اعتماد على مستوى المؤسسة. درس المساءلة هو أن تصنيف الأمان يجب أن يتبع مسار السر والبيانات، وليس كلمة "تجريبي".

يجب على المؤسسات التي تستخدم Spaces تصنيف كل Space حسب التعرض. حالة عام أو خاص مهمة، لكنها ليست كافية. هل يخزن Space أسرارًا؟ هل هي رموز Hugging Face أم بيانات اعتماد طرف ثالث؟ هل هي للقراءة فقط أم قادرة على الكتابة؟ هل تمس بيانات العميل أو البيانات الداخلية أو البيانات المنظمة أم فقط بيانات عينة عامة؟ هل هي مرتبطة بحساب فوترة؟ هل هي مملوكة لموظف أم فريق أم مؤسسة؟ هل هناك مسار موافقة؟ هل هناك مالك عند مغادرة المنشئ؟

يجب عليهم أيضًا تطبيق ضوابط دورة الحياة. يجب أن يكون لـ Space لإثبات المفهوم تاريخ انتهاء صلاحية. يجب أن تنتهي صلاحية الأسرار أو تُدار. يجب أن تكون الرموز دقيقة. يجب أن تكون السجلات متاحة. يجب على الخدمات الخارجية مراقبة الاستخدام. إذا أصبح العرض التوضيحي قريبًا من الإنتاج، فيجب نقله إلى حوكمة الإنتاج أو إعادة بنائه تحت ضوابط الإنتاج. إذا تم التخلي عنه، يجب إلغاء الأسرار وأرشفة Space أو حذفه.

بالنسبة لمزودي المنصات، الدرس هو جعل المسار الآمن سهلاً. سيستخدم المطورون الأسرار لأنهم بحاجة إلى عروض توضيحية عاملة. إذا كان المنتج يجعل الرموز الدقيقة وفحص الأسرار وموافقة المؤسسة وسجلات التدقيق والتخزين المدعوم بـ KMS والإلغاء الاستباقي مباشرة، يصبح الأمان جزءًا من سير العمل بدلاً من فكرة لاحقة. إذا كان المسار الآمن بطيئًا جدًا، فسيقوم المطورون بلصق الأسرار في الكود أو استخدام رموز واسعة.

يجب على المنصة أيضًا جعل المخاطر مرئية عند نقطة الإنشاء. عندما يضيف مطور سرًا إلى Space، يمكن للواجهة أن تسأل عما إذا كان السر إنتاجًا أم اختبارًا، وما إذا كان ينتهي، وما إذا كان ينتمي إلى مؤسسة، وما إذا كان محددًا بـ Space، ومن يملك التدوير. يمكنها التحذير عند استخدام رمز واسع حيث يعمل رمز دقيق. يمكنها عرض المسؤولين Spaces التي تحتوي على أسرار، وأي الأسرار قديمة، وأي التطبيقات لم يتم تحديثها مؤخرًا. هذا النوع من تصميم المنتج مهم لأن سلوك المطور يتشكل حسب الإعدادات الافتراضية.

يجب على المؤسسات معاملة Spaces كعناصر جرد. يجب أن يتضمن الجرد الناضج اسم Space ومالكه ومؤسسته وحالته العامة أو الخاصة والمستودعات المرفقة وبيئة التشغيل والخدمات الخارجية والأسرار ونطاقات الرموز وتصنيف البيانات والغرض التجاري وتاريخ المراجعة. يجب أن يميز بين تطبيق عينة عامة ونموذج أولي للعميل ونموذج أولي للعميل وخدمة إنتاج. إذا كان Space يعالج بيانات منظمة أو يستخدم بيانات اعتماد تصل إلى بيانات منظمة، فلا ينبغي إدارته كعرض توضيحي غير رسمي.

يجب أن تشمل تدريبات الحوادث تطبيقات الذكاء الاصطناعي المستضافة. يجب أن يكون الفريق قادرًا على الإجابة: أي Spaces سنغلق إذا حدثت حادثة سر منصة؟ أي مفاتيح طرف ثالث سندور أولاً؟ أي العملاء سيحتاجون إلى إشعار؟ أي سجلات ستظهر إساءة الاستخدام؟ أي حسابات فوترة قد تظهر إساءة؟ أي الرموز واسعة بما يكفي لتتطلب إلغاءً عاجلاً؟ أي عروض توضيحية مهجورة لا تزال تحمل بيانات اعتماد حية؟ إفصاح Hugging Face هو تذكير بأن هذه الأسئلة ليست نظرية.

الإبلاغ للسلطات وحدود الأدلة

قالت Hugging Face إنها أبلغت الحادثة لسلطات إنفاذ القانون وسلطات حماية البيانات. هذه إشارة مساءلة مهمة، خاصة أن المنصة تعمل عالميًا وقد تتعلق أسرار المستخدمين بالعديد من الولايات القضائية. السجل العام لا يحدد كل سلطة أو كل أساس قانوني أو كل فئة بيانات متأثرة أو كل نتيجة تنظيمية. القراءة الصحيحة هي أن الإبلاغ الخارجي حدث، وليس أن أي سلطة أصدرت نتيجة عامة.

تعتمد آثار حماية البيانات على الأسرار والبيانات المعنية. السر بحد ذاته قد لا يكون دائمًا بيانات شخصية، لكن الرمز يمكن أن يوفر الوصول إلى بيانات شخصية أو مستودعات خاصة أو قطع أثرية للنماذج أو مجموعات بيانات أو سجلات. قد يعالج Space بيانات شخصية إذا قدم المستخدمون معلومات إلى تطبيق أو إذا كان التطبيق يتصل بمجموعة بيانات خاصة. الإفصاح العام لا يقدم تحليلًا كاملاً لحماية البيانات. يجب على المؤسسات التي تستخدم Spaces إجراء تحليلها الخاص بناءً على ما خزنته وعالجته.

ينطبق الشيء نفسه على عقود العملاء. إذا استخدمت مؤسسة Spaces لإثبات مفهوم عميل، فقد تتطلب عقود العملاء إشعارًا أو تدويرًا أو إبلاغًا عن الحوادث حتى لو كان بيان مزود المنصة العام محدودًا. إذا خزنت مؤسسة منظمة مفتاحًا يمكنه الوصول إلى بيانات منظمة، فقد تختلف التزاماتها عن مطور فردي خزن رمز اختبار. تتدفق المساءلة من خلال حالة الاستخدام.

يجب أن تكون حدود الأدلة صريحة. لا ينبغي توقع أن تنشر Hugging Face تفاصيل من شأنها خلق مخاطر أمنية جديدة. لا ينبغي توقع أن يخمن المستخدمون ما إذا كانت أسرارهم الدقيقة قد تم الوصول إليها إذا كانت المنصة يمكنها إعطائهم إشعارًا خاصًا أكثر دقة. ملف حادثة دائم يوازن بين الشفافية العامة والأدلة السرية الخاصة بالعميل.

لذلك تتجنب هذه المقالة الادعاءات غير الموجودة في السجل العام. لا تذكر أن خدمة طرف ثالث معينة أسيء استخدامها، أو أن عددًا محددًا من Spaces تم اختراقها، أو أن جميع المستخدمين تأثروا، أو أن مستودعات النماذج تم تغييرها. تذكر أن السجل العام يدعم حادثة أسرار تحتضنها المنصة بشكل خطير مع إلغاء الرموز والتزامات تدوير المستخدم.

ينطبق نفس الحذر على التقارير الثانوية. BleepingComputer وSecurityWeek وTechCrunch وThe Hacker News وTechTarget وSC Media ساعدت في إثبات كيفية استقبال الإفصاح من قبل مجتمع الأمان وكيف تم وصف عدم اليقين حول النطاق علنًا. لا تُستخدم هنا لتحل محل صياغة Hugging Face. حيث تستخدم العناوين لغة أقوى، تعود هذه المقالة إلى إفصاح الشركة: تم اكتشاف وصول غير مصرح به، ويمكن الوصول إلى مجموعة فرعية من أسرار Spaces دون إذن، وتم إلغاء عدد من رموز HF الموجودة في تلك الأسرار.

هذا الانضباط ليس ضعفًا. إنه ما يجعل حجة المساءلة أقوى. إذا كان الدليل العام لا يثبت إساءة استخدام نهائية، فلا ينبغي للمقالة اختراعها. إذا كان الدليل العام يثبت مخاطر الأسرار التي تحتضنها المنصة وإلغاء الرموز وإشعار المستخدم وإصلاح تخزين الأسرار، فلا ينبغي للمقالة التقليل منها كإشعار منصة بسيط. تسمح حدود الأدلة ببقاء القضية الحقيقية مرئية: منصات الذكاء الاصطناعي تحمل الآن بيانات اعتماد يمكن أن يؤثر إساءة استخدامها على أنظمة خارج المنصة.

ما يجب أن يثبته ملف الاسترداد الكامل

يجب أن يثبت ملف الاسترداد الكامل لحادثة Hugging Face Spaces ستة أشياء. أولاً، يجب أن يثبت النطاق. ما Spaces والأسرار والرموز والمستخدمين والمؤسسات والمنتجات والنوافذ الزمنية والسجلات التي كانت ضمن النطاق؟ أي منها تم التحقيق فيه واستبعاده؟ أي المستخدمين تلقوا إشعارًا بالبريد الإلكتروني ولماذا؟ أي رموز HF تم إلغاؤها وما الامتيازات التي كانت لديهم؟

ثانيًا، يجب أن يثبت الاحتواء. ما الوصول غير المصرح به الذي تم اكتشافه؟ كيف تم إيقافه؟ أي الرموز تم إلغاؤها؟ أي مسارات البنية التحتية تم تغييرها؟ أي رموز المؤسسات تمت إزالتها؟ أي الأسرار انتقلت تحت حماية KMS؟ أي السجلات تم الحفاظ عليها؟ أي خبراء الطب الشرعي راجعوا الحادثة؟

ثالثًا، يجب أن يثبت إجراء المستخدم. ما الذي احتاج المستخدمون لتدويره بأنفسهم؟ أي فئات من أسرار غير HF قد تتطلب تدويرًا خارجيًا؟ ما التوجيه المقدم لمراجعة السجلات الخارجية؟ كيف تم إخبار المستخدمين بالانتقال إلى الرموز الدقيقة؟ كيف تم دعم مسؤولي المؤسسات؟

رابعًا، يجب أن يثبت إصلاح المنصة الدائم. يجب أن يكون لـ KMS لأسرار Spaces وتحديد الرموز المسربة والإبطال الاستباقي وإزالة رموز المؤسسات والرموز الدقيقة وإهمال الرموز التقليدية ملاك ومعالم رئيسية وتحقق ومقاييس تشغيلية. لا يحتاج الجمهور إلى الهندسة المعمارية السرية، لكن المستخدمين يحتاجون إلى أدلة كافية للثقة في الاتجاه.

خامسًا، يجب أن يثبت تحسين الحوكمة. يجب أن يكون مسؤولو المؤسسات قادرين على مراجعة الرموز وفرض الاستخدام الدقيق وطلب الموافقة وإلغاء الوصول وتدقيق النشاط. يجب توجيه المطورين الأفراد نحو الامتياز الأقل. يجب فحص المستودعات العامة و Spaces بحثًا عن أسرار مسربة. يجب ألا تحمل العروض التوضيحية المهجورة بيانات اعتماد حية إلى الأبد.

سادسًا، يجب أن يثبت جودة الاتصال. يحتاج المستخدمون إلى معرفة ما تم تأكيده وما اشتبه فيه وما هو غير معروف وما تم إلغاؤه بالفعل وما لا يزال يتعين عليهم فعله. الفرق بين "تم إلغاء رمز HF الخاص بك" و"قم بتدوير أي مفتاح طرف ثالث مخزن في Space الخاص بك" هو أمر حاسم تشغيليًا. يجب أن يحافظ سجل الاتصال الكامل على هذا التمييز.

الدرس الأوسع لمنصات مطوري الذكاء الاصطناعي

الدرس الأوسع هو أن منصات مطوري الذكاء الاصطناعي أصبحت جزءًا من سلسلة توريد البرمجيات. إنها تستضيف النماذج ومجموعات البيانات والكود والعروض التوضيحية ونقاط النهاية وسير العمل التعاوني. كما أنها تستضيف بشكل متزايد بيانات الاعتماد التي تجعل سير العمل هذه مفيدة. هذا يجعلها جذابة وذات عواقب. يمكن أن تؤثر حادثة منصة ليس فقط على حساب المنصة ولكن على الأنظمة الخارجية المتصلة من خلال الرموز.

يجب أن تصمم منصات الذكاء الاصطناعي للامتياز الأقل بشكل افتراضي. يجب أن تكون الرموز الدقيقة سهلة الإنشاء ويصعب تجنبها للعمليات الحساسة. يجب أن يكون لمسؤولي المؤسسات رؤية على الرموز و Spaces. يجب تشفير الأسرار والتحكم في الوصول إليها وتدقيقها وفحصها وتدويرها. يجب مراقبة الكود العام ومستودعات النماذج بحثًا عن مفاتيح مسربة. يجب أن يكون للعروض التوضيحية المستضافة ملكية واضحة وضوابط دورة الحياة. يجب أن تكون ميزات الأمان جزءًا من تجربة المطور بدلاً من فكرة لاحقة خاصة بالمؤسسات فقط.

يجب على المستخدمين أيضًا رفع مستوى معاييرهم. يجب ألا يستخدم العرض التوضيحي العام رمز إنتاج واسعًا. يجب ألا يحتفظ إثبات المفهوم بمفتاح سحابة طويل الأمد بعد انتهاء الاجتماع. يجب ألا تتم مشاركة بيانات اعتماد المؤسسة عبر Spaces. يجب أن تكون الرموز محددة بأقل مورد وإجراء. يجب مراجعة السجلات الخارجية بعد أي تعرض محتمل. يجب تدوير الأسرار وفقًا لجدول زمني وفورًا بعد أن تشير توجيهات المنصة إلى خطر.

يجب أن تسأل فرق المشتريات منصات الذكاء الاصطناعي عن تخزين الأسرار و KMS ونطاقات الرموز وحوكمة المؤسسات وسجلات التدقيق وإخطار الاختراق ودعم الحوادث ومعالجة البيانات وفحص المستودعات والأدلة الخاصة بالعميل. يجب على فرق الأمان الحفاظ على جرد لـ Spaces والمالكين والأسرار والخدمات الخارجية. يجب أن تعرف فرق البيانات ما إذا كانت العروض التوضيحية تمس بيانات حقيقية أم عينات فقط. يجب أن تعرف الفرق القانونية أي التزامات العملاء تنطبق إذا تم كشف بيانات اعتماد عرض توضيحي.

الجواب ليس التوقف عن استضافة العروض التوضيحية للذكاء الاصطناعي. العروض التوضيحية المستضافة قيمة. إنها تساعد الأشخاص على اختبار النماذج وتعلم الأدوات ومشاركة الأبحاث وبناء المنتجات بسرعة. الجواب هو الاستضافة المسؤولة: أسرار تدار بأدلة، ورموز محددة بشكل افتراضي، ومنظمات تُمنح السيطرة، ومستخدمون يُخطرون بوضوح، وإصلاحات المنصة مرتبطة بتخفيضات قابلة للقياس في نصف قطر الانفجار.

هناك أيضًا درس في سلسلة التوريد لمجتمعات النماذج ومجموعات البيانات. تزدهر النظم البيئية المفتوحة على المشاركة السهلة، لكن المشاركة السهلة يمكن أن تطمس الفرق بين القطع الأثرية العامة وبيانات الاعتماد الخاصة. يجب ألا تصبح بطاقة نموذج أو نص مجموعة بيانات أو مستودع عرض توضيحي أو تكوين Space مكانًا يتم فيه تطبيع الأسرار طويلة الأمد. يمكن للمنصات فحص الرموز المكشوفة وإبطالها، لكن الأعراف المجتمعية مهمة أيضًا. يجب على المشرفين توثيق أنماط الإعداد الآمنة، واستخدام المتغيرات البيئية بحذر، وتجنب ارتكاب أسرار مثال، وشرح كيف يجب على المساهمين طلب الوصول دون نسخ مفاتيح المؤسسة.

بالنسبة للمؤسسات التي تعتمد منصات الذكاء الاصطناعي، لم يعد سؤال المشتري فقط ما إذا كانت المنصة لديها نماذج شائعة أو عروض توضيحية مريحة. إنه ما إذا كانت المنصة يمكنها فرض الامتياز الأقل، ودعم حوكمة المؤسسة، وتوفير مسارات التدقيق، وحماية الأسرار المخزنة، واكتشاف الرموز المسربة، وإخطار المستخدمين المتأثرين بسرعة، ومساعدة المسؤولين في الإجابة على أسئلة النطاق أثناء الحادثة. تلك متطلبات تشغيلية لأي منصة تستضيف بيانات اعتماد.

الاختبار التشغيلي هو ما إذا كان العميل يمكنه اتخاذ قرار دون تخمين. إذا تلقى فريق إشعار رمز، فيجب أن يعرف ما إذا كان السر المتأثر هو رمز HF أم مفتاح API خارجي أم بيانات اعتماد سحابة أم سر webhook أم بيانات اعتماد مؤسسة؛ وما إذا كانت المنصة قد ألغت بالفعل أي شيء؛ وما إذا كان يجب على العميل تدوير الخدمات الخارجية؛ وما إذا كانت أي سجلات تشير إلى محاولة استخدام. حتى عندما لا تستطيع المنصة الكشف عن كل تفاصيل الطب الشرعي علنًا، فإن الوضوح الخاص بالعميل هو جزء من الإصلاح. يمكن أن تترك الإشعارات الغامضة الفرق إما تدور القليل جدًا، مما يحافظ على المخاطر، أو كل شيء، مما يخلق وقت تعطل غير ضروري وحمل دعم.

المساءلة تتبع احتجاز أسرار المطورين

استنتاج المساءلة مباشر. سيطرت Hugging Face على منصة Spaces وتصميم تخزين الأسرار وإلغاء رموز HF وسياسة رموز المؤسسات وإشعارات المستخدم وتحسينات البنية التحتية للمنصة والمشاركة الجنائية والإفصاح العام. تحكم المستخدمون في الأسرار التي خزنوها، وأي خدمات طرف ثالث وصلت إليها تلك الأسرار، ومدى اتساع تلك الأذونات، وما إذا تم تدوير بيانات الاعتماد الخارجية بعد الإشعار. كانت المخاطر مشتركة، لكن السيطرة لم تكن متطابقة.

السجل العام يعطي أدلة ذات مغزى: وصول غير مصرح به متعلق بأسرار Spaces، اشتباه في أنه يمكن الوصول إلى مجموعة فرعية من الأسرار، إلغاء عدد من رموز HF، إشعار بريد إلكتروني لأصحاب الرموز المتأثرين، توصيات بتحديث المفاتيح والرموز، توصية باستخدام رموز الوصول الدقيقة، دعم خارجي للطب الشرعي، KMS لأسرار Spaces، إزالة رموز المؤسسات، تحديد الرموز المسربة والإبطال الاستباقي، إهمال مخطط للرموز التقليدية، مواصلة التحقيق، والإبلاغ للسلطات. كما يترك مجاهيل ذات مغزى: ناقل الوصول الأولي، عدد المستخدمين المتأثرين، عدد Spaces المتأثرة، فئات الأسرار الكاملة، إساءة الاستخدام النهائية، نتائج الطب الشرعي الكاملة، والتحقق النهائي من جميع الإصلاحات.

لهذا السبب تظل حادثة Hugging Face مهمة بعد إفصاح واحد. لقد جعلت أسرار Spaces اختبار مساءلة رموز منصة المطورين. المعيار الدائم ليس ما إذا كانت المنصة يمكنها إلغاء بعض الرموز بعد اكتشاف وصول غير مصرح به. إنه ما إذا كانت المنصة ومستخدموها يمكنهم إثبات أن احتجاز الأسرار هو الحد الأدنى، والرموز محددة، ووصول المؤسسة قابل للتتبع، والمفاتيح الخارجية مدورة، والسجلات مراجعة، والعروض التوضيحية محكومة وفقًا للبيانات وبيانات الاعتماد التي تستخدمها، ويمكن لنظام مطوري الذكاء الاصطناعي البيئي الاستمرار في التحرك دون معاملة الراحة كعذر لمخاطر هوية الآلة غير المُدارة.