- شركات التكنولوجيا العملاقة، بما في ذلك OpenAI و Google و Microsoft و Nvidia، شكلت CoSAI لتحسين أمان تطبيقات الذكاء الاصطناعي.
رأينا
إن إطلاق CoSAI من قبل عمالقة التكنولوجيا يدل على موقف استباقي تجاه أمن الذكاء الاصطناعي، من خلال معالجة الثغرات وتعزيز بيئة تعاونية للابتكار وأفضل الممارسات. من خلال معالجة المشهد المجزأ لأمن الذكاء الاصطناعي بطريقة متسقة، يهدف هذا التحالف إلى تحصين أنظمة الذكاء الاصطناعي، والحفاظ على متانتها ومرونتها في بيئة رقمية دائمة التطور.
– فيكي وو، صحفية في BTW
ما حدث
اجتمع عمالقة التكنولوجيا لتشكيل تحالف من أجل الأمن السيبراني للذكاء الاصطناعي (CoSAI)، وهو اتحاد للأمن السيبراني يهدف إلى تعزيز أمان تطبيقات الذكاء الاصطناعي. تم الإعلان عنه خلالمنتدى أسبن للأمن، وسيعمل CoSAI تحت مظلة OASIS، وهي منظمة غير ربحية تشرف على مشاريع البرمجيات مفتوحة المصدر التي تركز على تحسين الأمن السيبراني.
الأعضاء المؤسسون لـ CoSAI يشملون عمالقة الصناعة مثل OpenAI و Anthropic و AWS و Microsoft و Google و Nvidia و Intel و IBM و Cisco و PayPal و Wiz و Chainguard.
مهمتهم المشتركة ذات شقين: تطوير أدوات وإرشادات لتأمين تطبيقات الذكاء الاصطناعي، وزراعة نظام بيئي لمشاركة أفضل الممارسات والتقنيات في مجال الأمن السيبراني للذكاء الاصطناعي.
يطلق CoSAI ثلاثة محاور عمل مفتوحة المصدر لتحقيق هذه الأهداف. أولاً، يخطط CoSAI لتطوير إطار يساعد فرق البرمجيات على تحديد وتخفيف مخاطر الأمن السيبراني في أعباء عمل التعلم الآلي، ودمج تصنيف للثغرات الشائعة وطرق المعالجة، بالإضافة إلى لوحة معلومات للأمن السيبراني للمراقبة المستمرة. ثانيًا، يهدف التحالف إلى تبسيط إدارة مخاطر الأمن السيبراني للذكاء الاصطناعي من خلال تحديد الاستثمارات الاستراتيجية ونشر تقنيات التخفيف. أخيرًا، إدارة مخاطر سلسلة التوريد البرمجية هي أولوية، مع التركيز على تبسيط تحليل الثغرات للمكونات الخارجية القادمة من مستودعات مثل GitHub في سياق المشاريع المعقدة.
اقرأ أيضًا:مشروع 'Strawberry' من OpenAI يدفع التفكير في الذكاء الاصطناعي قدمًا
اقرأ أيضًا:Google و Microsoft تقدمان رقائق Nvidia AI للصين
لماذا هذا مهم
يشكل تشكيل تحالفات مثل CoSAI وعيًا جماعيًا بأولوية أمن الذكاء الاصطناعي. مدفوعة بمسؤولية مشتركة، تتحد الشركات الكبرى لمواجهة التحديات الفريدة لأمن الذكاء الاصطناعي. من خلال تجميع الموارد، يمكن لهذه الكيانات معًا معالجة الثغرات المتأصلة في الذكاء الاصطناعي، وتخفيف التهديدات المتطورة مثل المدخلات الخصومة وانتهاكات البيانات بشكل فعال. تسريع الابتكار، الذي يغذيه التعاون بين المؤسسات، يدفع تقنيات وأمنيات جديدة، مستفيدًا من الخبرة الجماعية لتحقيق اختراقات. الامتثال التنظيمي وثقة الجمهور أيضًا أمران حاسمان.
يمكن للشركات التأثير بشكل إيجابي على السياسات وطمأنة المستخدمين، مما يعزز ثقتهم في تقنيات الذكاء الاصطناعي من خلال إظهار التزامهم بأمن الذكاء الاصطناعي.
« نحن نستخدم الذكاء الاصطناعي منذ سنوات عديدة ونرى الإمكانات المستمرة للمدافعين، بينما نعترف بفرصه للخصوم »، قالت هيذر أدكنز، نائبة رئيس الأمن في Google، في بيان. « سيساعد CoSAI المؤسسات، كبيرة كانت أم صغيرة، على دمج الذكاء الاصطناعي بشكل آمن ومسؤول، مساعدًا إياهم على الاستفادة من فوائده مع تخفيف المخاطر. »