OpenAI تتعاون مع US AI Safety Institute لاختبارات السلامة المبكرة

OpenAI collaborates with US AI Safety Institute for early safety testing يتم تسليط الضوء عليها من قبل BTW Media لأن الأدلة المنشورة تربطها بالبنية التحتية للإنترنت أو الحوكمة أو الاعتماديات التشغيلية أو وضوح السوق.

• أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن تعاون مع US AI Safety Institute لإجراء اختبارات سلامة مبكرة لنموذج الذكاء الاصطناعي التوليدي الكبير التالي.
• يأتي هذا الإجراء بعد الانتقادات الموجهة لممارسات السلامة في OpenAI، ويهدف إلى إظهار نهج متجدد تجاه سلامة الذكاء الاصطناعي.

رأينا
يسلط هذا التعاون الضوء على استجابة OpenAI للمخاوف المتزايدة بشأن سلامة الذكاء الاصطناعي، بهدف طمأنة المنتقدين وإظهار الالتزام بالتطوير المسؤول للذكاء الاصطناعي. من خلال العمل مع الهيئات الفيدرالية، تسعى OpenAI إلى الموازنة بين الابتكار وبروتوكولات السلامة.
— Zoey Zhu، مراسلة BTW

ما حدث

أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، مساء الخميس أن OpenAI تعمل مع US AI Safety Institute لتوفير وصول مبكر إلى نموذج الذكاء الاصطناعي التوليدي الكبير التالي لإجراء اختبارات السلامة. يهدف US AI Safety Institute، وهو جزء من المعهد الوطني للمعايير والتكنولوجيا في وزارة التجارة، إلى تقييم ومعالجة المخاطر في منصات الذكاء الاصطناعي. يأتي هذا التعاون بعد اتفاق مماثل مع هيئة سلامة الذكاء الاصطناعي في المملكة المتحدة في يونيو.

واجهت OpenAI انتقادات بسبب تقليل أولوية سلامة الذكاء الاصطناعي في الأشهر الأخيرة. في مايو، حلّت الشركة وحدة كانت تركز على تطوير ضوابط لمنع أنظمة الذكاء الاصطناعي "فائقة الذكاء" من التمرد. أدى هذا الإجراء إلى استقالة المشاركين في إدارة الوحدة وإثارة ردود فعل سلبية من دعاة سلامة الذكاء الاصطناعي. ردًا على ذلك، اتخذت OpenAI خطوات لمعالجة هذه المخاوف، بما في ذلك إزالة بنود عدم الانتقاد التقييدية وتخصيص 20% من مواردها الحاسوبية لأبحاث السلامة.

اقرأ أيضًا:OpenAI تدعم تشريعات لتشكيل مستقبل الذكاء الاصطناعي

اقرأ أيضًا:OpenAI تكشف عن وضع الصوت في الوقت الفعلي لـ ChatGPT

لماذا هذا مهم

يعني التعاون مع US AI Safety Institute جهدًا من OpenAI لإعادة بناء الثقة وإظهار الالتزام بسلامة الذكاء الاصطناعي. من خلال توفير الوصول المبكر إلى نموذج الذكاء الاصطناعي التوليدي الكبير التالي لاختبارات السلامة، تسعى OpenAI إلى ضمان تحديد المخاطر المحتملة والتخفيف منها قبل إطلاق النموذج على نطاق واسع.

هذه الخطوة تتماشى استراتيجيًا مع دعم OpenAI لقانون مستقبل الابتكار (Future of Innovation Act)، وهو مشروع قانون مقترح في مجلس الشيوخ من شأنه أن يفوض US AI Safety Institute كهيئة تنفيذية تضع المعايير والتوجيهات لنماذج الذكاء الاصطناعي. جهود الضغط المتزايدة من OpenAI ودور ألتمان في مجلس أمن وحماية الذكاء الاصطناعي التابع لوزارة الأمن الداخلي تشير إلى تأثير الشركة في صياغة سياسات الذكاء الاصطناعي على المستوى الفيدرالي. يهدف التعاون إلى طمأنة أصحاب المصلحة والمنتقدين بأن OpenAI تأخذ على محمل الجد معالجة مخاوف سلامة الذكاء الاصطناعي، مع الموازنة بين تطوير تقنيات الذكاء الاصطناعي التوليدية القوية وبروتوكولات السلامة القوية.