النموذج التالي لـ OpenAI سيخضع لفحوصات أمان من الحكومة الأمريكية

يتم تسليط الضوء على النموذج التالي لـ OpenAI الذي سيخضع لفحوصات أمان من الحكومة الأمريكية بواسطة BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.

• أعلن سام ألتمان، الرئيس التنفيذي لـ OpenAI، أن النموذج التالي الذي طورته OpenAI سيخضع لفحوصات أمان وتقييمات من قبل الحكومة الأمريكية قبل طرحه للجمهور.
• تشكل هذه الخطوة تقدمًا كبيرًا لضمان التطوير والاستخدام الحذر للذكاء الاصطناعي المتقدم، معالجةً المخاوف بشأن المخاطر والقضايا الأخلاقية.

رأينا
مبادرة OpenAI لإخضاع نموذجها التالي لفحوصات أمان حكومية تخلق سابقة لشركات التكنولوجيا والمؤسسات البحثية الأخرى لإعطاء الأولوية للسلامة والأخلاق والمسؤولية في مشاريع الذكاء الاصطناعي الخاصة بها. بينما يستمر الذكاء الاصطناعي في التقدم بسرعة، سيكون ضمان الاستخدام المسؤول والمفيد لهذه التقنيات ضروريًا لبناء الثقة بين أصحاب المصلحة والجمهور.
–ريبيكا شو، صحفية في BTW

ما حدث

OpenAIأصبحت اسمًا بارزًا في صناعة الذكاء الاصطناعي، بفضل ChatGPT وسلسلة النماذج الأساسية التي طورتها الشركة. تحت قيادةألتمان، شجع المختبر بنشاط تطوير منتجات جديدة، لكن هذا النهج السريع أثار أيضًا انتقادات، لا سيما من رئيس مشارك سابق للأمن، الذي يؤكد أن المختبر أهمل قضايا السلامة في أبحاث الذكاء الاصطناعي المتقدمة.

على ضوء هذه المخاوف، كتب خمسة أعضاء في مجلس الشيوخ الأمريكي مؤخرًا إلى ألتمان، متسائلين عن التزام OpenAI بالسلامة وحالات الانتقام المحتملة ضد الموظفين السابقين الذين أعربوا علنًا عن مخاوفهم، بسبب بنود عدم الانتقاد في عقود عملهم.

في منشور على X، كشف سام ألتمان أن OpenAI تتعاون مع U.S. AI Safety Institute، وهو كيان فيدرالي، لإبرام اتفاق يسمح بالوصول المبكر إلى النموذج الأساسي التالي. تهدف هذه الشراكة إلى تعزيز الفهم العلمي وتقييم تقنيات الذكاء الاصطناعي.

وأكد ألتمان أيضًا أن المنظمة راجعت سياساتها المتعلقة بعدم الانتقاد، مما يسمح الآن للموظفين الحاليين والسابقين بالتعبير علنًا عن مخاوفهم بشأن الشركة ومشاريعها. تحافظ OpenAI على التزامها بتخصيص ما لا يقل عن 20% من مواردها الحاسوبية لأبحاث سلامة الذكاء الاصطناعي.

اقرأ أيضًا:ما هو OpenAI؟

اقرأ أيضًا:OpenAI تحسن سلامة الذكاء الاصطناعي بفضل U.S. AI Safety Institute

اقرأ أيضًا:OpenAI تدعم التشريع لتشكيل مستقبل الذكاء الاصطناعي

لماذا هذا مهم

OpenAI، المعروفة بأبحاثها المتقدمة في الذكاء الاصطناعي والتزامها بتعزيز ذكاء اصطناعي آمن ومفيد للمجتمع، تعاونت مع وكالات حكومية لإجراء تقييمات صارمة لسلامة نموذجها التالي. يهدف هذا التعاون إلى معالجة المخاطر المحتملة مثل التحيزات غير المقصودة، ونقاط الضعف الأمنية، والاعتبارات الأخلاقية التي قد تنشأ عن استخدام النموذج.

من خلال إخضاع نموذج الذكاء الاصطناعي لفحوصات أمان شاملة من قبل الحكومة الأمريكية، تسعى OpenAI إلى إظهار التزامها بالشفافية والمساءلة والابتكار المسؤول في مجال الذكاء الاصطناعي. ستشمل عملية التقييم خبراء من تخصصات مختلفة، بما في ذلك باحثو الذكاء الاصطناعي، وعلماء الأخلاق، وصناع السياسات، وممثلو المجتمع المدني.

يعكس قرار إشراك الرقابة الحكومية في تطوير نموذج الذكاء الاصطناعي الاعتراف المتزايد بأهمية الأطر التنظيمية وآليات السلامة للتقنيات المتقدمة. كما يؤكد على الحاجة إلى جهود تعاونية بين الصناعة والأوساط الأكاديمية والحكومة لمواجهة التحديات المعقدة التي يفرضها تطوير ونشر الذكاء الاصطناعي.