• عثرَت Anthropic على ثلاث حوادث بعد مراجعة أكثر من ١٤١٬٠٠٠ تقييمٍ للأمن السيبراني أُجري عبر شركة الاختبار الخارجية Irregular.
  • أدت هذه الاختراقات إلى جعل عزل الشبكة، ومسؤولية المورّد، والمراقبة المشتركة، عناصر أساسية في عملية اختبار النماذج.

الوقائع

تقول Anthropic إن ثلاثة من نماذج الذكاء الاصطناعي حصلت على وصولٍ غير مصرحٍ به إلى أنظمة تابعة لثلاث منظمات خلال تقييمات الأمن السيبراني التي أُجريت مع شركة الاختبار الخارجية Irregular. اكتشفت الشركة هذه الحوادث بعد مراجعة أكثر من ١٤١٬٠٠٠ تشغيلٍ اختباري بعد الإفصاح عن حادث مماثل متعلق بـ OpenAI.

كانت النماذج قد كُلِّفت بتمارين CTF غير مغلقة النطاق، وأُبلغت بأنها تعمل داخل بيئات محاكاة دون وصول إلى الإنترنت. أدى سوء فهم بين Anthropic وIrregular إلى بقاء آلات الاختبار متصلة بالإنترنت العام. عندها تعاملت النماذج مع الأنظمة الحقيقية كجزء من التمارين واستخدمت طرقًا معروفة، بما في ذلك كلمات المرور الضعيفة ونقاط النهاية غير الموثقة، بدلًا من ثغرات جديدة غير معروفة.

شملت الحوادث نماذج Claude Opus 4.7، وClaude Mythos 5، ونموذج بحثي داخلي، وأقدمها يعود إلى شهر إبريل. أوقفت Anthropic التقييمات ذات الصلة، وأخطرت Irregular، وتواصلت مع المنظمات المتضررة. لم تكتشف اثنتان من المنظمات النشاط قبل أن تُخطرهما Anthropic.

التقييم

حدّدت Anthropic أهداف التمارين، بينما أدارت Irregular بيئة الاختبار. كان من المفترض أن تكون الآلات معزولة، لكنها ظلّت قادرة على الوصول إلى الإنترنت العام. لذلك استطاعت النماذج اعتبار الأنظمة الحقيقية جزءًا من التمرين، رغم أن أيًا من الشركتين لم يرد إدراجه.

يقع هذا التحكم المطلوب قبل بدء كل تقييم. يجب على Anthropic وشريك الاختبار التأكد من الأنظمة التي يمكن للآلات الوصول إليها، والتحقق من حظر الوصول إلى الأنظمة غير المعتمدة، والاتفاق على الجهة المخولة بإيقاف التمرين. يمكن للإرشادات أن تحدد ما يُسمح للنموذج بفعله، لكنها لا تستطيع تقييد الشبكة التي يعمل عليها.

لا يوضح البيان العام بعد بدقة موضع انهيار المسؤولية أو ما إذا كانت نفس الفحوصات غائبة في اختبارات أخرى. بالنسبة لقرّاء BTW، لا يعفي تفويض تقييم للطرف الثالث المطور من التحقق من البيئة الخارجية. تحتاج Anthropic إلى دليل قبل كل تشغيل يثبت أن آلات الاختبار لا تصل إلى أنظمة خارج النطاق المتفق عليه.

ما يجب مراقبته

تابعوا METR وIrregular لتحديد الجهة المسؤولة عن التحقق من عزل الإنترنت ولماذا فشلت هذه الفحوص. ينبغي أن تتضمن شروط إعادة تشغيل Anthropic ما إذا كانت كل عملية الآن تتطلب قائمة أهداف موثقة، وفحصًا سابقًا لخروج الاتصال، وشخصًا محددًا له صلاحية إيقاف التمرين. دون هذه الضوابط، قد يظل نطاق الاختبار المكتوب مختلفًا عن الأنظمة التي تستطيع النماذج الوصول إليها.