تدعم Anthropic مشروع Glasswing بمبلغ 100 مليون دولار بعد أن اكتشف نموذج Claude آلاف الثغرات البرمجية عالية الخطورة. يشير نهج متعدد البائعين إلى تحول نحو معايير أمان الذكاء الاصطناعي على مستوى الصناعة.
ما حدث: يجمع مشروع Glasswing شركات تكنولوجيا كبيرة لاختبار أدوات أمان متقدمة للذكاء الاصطناعي، بعد أن كشفت النماذج عن آلاف الثغرات الأمنية الحرجة.
عززت شركة الذكاء الاصطناعي Anthropic شراكاتها مع Nvidia وCisco من خلال مبادرتها الجديدة للأمن السيبراني، مشروع Glasswing. يجمع البرنامج جهات تكنولوجية كبيرة، بما في ذلك Amazon Web Services وMicrosoft (السحابة)، وGoogle وApple (المنصات)، وNvidia (قوة الحوسبة)، وCisco (الشبكات). يوفر وصولًا محكومًا إلى نموذج Claude Mythos Preview من Anthropic لاختبارات الأمان الدفاعية. يركز النموذج على اكتشاف الثغرات وتقوية الأنظمة. أعلنت Anthropic أنها حددت بالفعل آلاف الثغرات عالية الخطورة في البرامج والبنية التحتية واسعة الانتشار. تقدم Cisco قدرات الشبكات والأمان، بينما توفر Nvidia قوة الحوسبة اللازمة لتشغيل نماذج الذكاء الاصطناعي على نطاق واسع.
يختبر الشركاء معًا كيف يمكن للذكاء الاصطناعي تأمين بيئات المؤسسات المعقدة. تمول Anthropic المبادرة بما يصل إلى 100 مليون دولار من أرصدة الاستخدام وتمويل إضافي لأعمال الأمان مفتوحة المصدر. تخطط الشركة أيضًا لتوسيع المشاركة لتشمل العشرات من المؤسسات التي تدير البنى التحتية الحيوية. تتجاوز الجهود الشراكات الثنائية. إنها تشير إلى نهج منسق متعدد البائعين لدمج الأمان مباشرة في تطوير الذكاء الاصطناعي ونشره.
لماذا هذا مهم: يدخل أمان الذكاء الاصطناعي مرحلة تحالف حيث يتحد كبار المزودين لتحديد معايير النشر في المؤسسات وإدارة المخاطر. يشير مشروع Glasswing إلى تشكيل 'تحالف أمان الذكاء الاصطناعي' في الممارسة العملية. لم يعد كبار المزودين يعملون بمفردهم. ينسقون جهودهم عبر مستويات قوة الحوسبة والشبكات والبرمجيات. يعكس هذا التحول المخاطر النظامية المتزايدة للذكاء الاصطناعي التوليدي. تؤثر الثغرات الآن على النماذج ومصادر البيانات العامة والبنية التحتية للشبكات. لا يمكن لأي مزود التعامل مع هذا بمفرده. من خلال مواءمة قوة الحوسبة من Nvidia وشبكات Cisco ونماذج Anthropic، تتقدم المبادرة نحو معايير أمان متكاملة.
من المرجح أن تشكل هذه المعايير الطريقة التي تنشر بها المؤسسات أنظمة الذكاء الاصطناعي وتديرها. يساعد النهج أيضًا في تحقيق التوازن بين القدرات والتحكم. يمكن للنماذج المتقدمة اكتشاف الثغرات على نطاق واسع، ولكنها تحتاج إلى آليات حماية لمنع إساءة الاستخدام. على المدى الطويل، يمكن لهذه التحالفات تحديد المشهد التنافسي. الشركات المندمجة في هذه النظم البيئية ستؤثر ليس فقط على التكنولوجيا، بل أيضًا على القواعد التي تحدد أمان الذكاء الاصطناعي.
اقرأ أيضًا: Broadcom وGoogle تبرمان عقدًا طويل الأجل لرقائق الذكاء الاصطناعي المخصصة اقرأ أيضًا: أستراليا تكلف Anthropic بأمان الذكاء الاصطناعي وتعزيز البيانات الاقتصادية